KI gegen Krebs: Kritik an IBM Watson wegen "gefährlichen Empfehlungen"

    30. Juli 2018, 09:52
    45 Postings

    Algorithmus soll Medikament mit Blutungsgefahr für Patienten mit Blutungen vorgeschlagen haben – IBM weist Kritik zurück

    Er gewann bei der Worträtsel-Show "Jeopardy", er komponiert Musik gemeinsam mit berühmten Persönlichkeiten und soll auch Videospiele verbessern. Watson, die künstliche Intelligenz von IBM, hat viele Talente. Potenzial sehen Wissenschaftler auch im Bereich der Medizin.

    Dort scheint sich die smarte Software allerdings noch schwer zu tun. Dem Medizinfachportal Stat News liegen Dokumente vor, die naheliegen, dass man der für Krebsbehandlungen entwickelten Version von Watson bei Therapievorschlägen besser nicht blind vertrauen sollte. Es handelt sich um interne Aufzeichnungen von IBM. In diesen wird von Beschwerden und "zahlreichen Beispielen gefährlicher und inkorrekter Behandlungsempfehlungen" berichtet.

    Gefährliche Empfehlung

    In einem Fall soll Watson etwa für einen 65 Jahre alten Patienten mit Lungenkrebs und Blutungen die Anwendung von Chemotherapie und die Verabreichung des Wirkstoffes Bevacizumab empfohlen haben. Dieser kann allerdings starke Blutungen auslösen und soll daher nicht bei Patienten zum Einsatz gebracht werden, die ohnehin schon mit diesem Problem zu kämpfen haben.

    Als Ursache wird unzureichendes Training vermutet. Watson soll demnach nur mit einem vergleichsweise kleinen Datensatz trainiert worden sein, der zudem nicht aus echten Fällen und Therapien, sondern hypothetischen Patienten bestand.

    Probleme sollen behoben sein

    IBM weist die Kritik allerdings zurück. Die Darstellung sei nicht akkurat und auch nicht aktuell, betont man, zumal das zitierte Dokument bereits zwei Jahre alt ist. Man habe Watson mittlerweile verbessert und alleine im vergangenen Jahr elf neue Versionen veröffentlicht. Mittlerweile könne sich Watson mit 13 Krebsarten befassen, werde in 230 Spitälern eingesetzt und habe die Behandlung von 84.000 Patienten unterstützt.

    Vor einem Jahr sprach etwa die American Society of Clinical Oncology Watson ein ausdrückliches Lob für seine Behandlungsempfehlungen aus. Dementsprechend bleibt IBM seinen Bestrebungen, Watson weiter in der Medizin zu etablieren auch "absolut verpflichtet". (red, 30.07.2018)

    • IBM will Watsons Empfehlungen mittlerweile verbessert haben.
      foto: ap

      IBM will Watsons Empfehlungen mittlerweile verbessert haben.

    Share if you care.