Scam-Verdacht gegen "revolutionäre KI", die per E-Mail trainiert wird

    9. März 2018, 13:57
    5 Postings

    Software aus Neuseeland soll Patienten besser verstehen als Ärzte und begeisterte Medien und Politik – Journalist findet viele Ungereimtheiten

    Sie erscheint wie der frühe Traum vom unfehlbaren Roboter-Arzt oder die "Star Trek"-Vision des holographischen Doktors. Eine in Neuseeland entwickelte künstliche Intelligenz namens "Zach" sorgte für Hype, begeisterte über Monate hinweg Medien und Politiker. Doch nun mehren sich die Zeichen, dass hinter der scheinbar revolutionären Technologie nichts steckt – außer ein Mensch.

    Dabei klang alles vielversprechend. Füttert man Zach mit der Aufnahme eines Arztgesprächs, so kann die KI davon eine einfach verständliche Zusammenfassung nebst optimierten Empfehlungen für den Patienten liefern – besser als es ein Doktor selber könne. Weitere Pläne sehen vor, dass die KI künftig auch Elektrokardiogramme interpretieren lernen soll.

    Großes Interesse

    Vorgestellt wurde die Technologie im vergangenen August in Christchurch unter Anwesenheit wichtiger Stadtpolitiker. Die Bürgermeisterin hätte sogar eine Keynote halten sollen, fiel aber kurzfristig aus. Auch das Interesse (nicht nur) neuseeländischer Medien war beachtlich.

    Das Projekt soll auch zum Aufbau eines Supercomputer-Clusters in der Stadt führen. Man träumt davon, alle öffentlichen Krankenhäuser des Landes von der KI unterstützen zu lassen. Dabei gab es von Anfang an Warnsignale, dass es "Zach" in dieser Form vielleicht gar nicht gibt, dokumentiert The Spinoff.

    Ein Entwickler, den niemand kennt

    Der Reihe nach: Hinter der Technologie soll ein Entwickler namens Alberic Whale stehen, zu dem im Internet kaum Informationen auffindbar sind. Der damals 25-Jährige soll sich mit dem britischen Geschäftsmann William Kreuk zusammengetan und eine Firma namens Red Dog gegründet haben. Weder zur Firma, noch zu Whales angeblichem Geschäftspartner gibt es konklusive Informationen.

    Während Red Dog in Großbritannien gut verdient haben soll, wurde ein anderes von Whale registriertes Unternehmen in Neuseeland, Luminous Group, in Neuseeland gerichtlich liquidiert. Die Vollstrecker fanden ein Konto mit drei Dollar Guthaben, zwei alte Laptops und ein iPhone als Firmenvermögen vor. Nichtsdestotrotz gründete Whale anschließend die "Terrible Group". Von deren Unternehmenszweigen tauchen jedoch nur zwei Firmen im Handelsregister auf.

    2014 folgte eine weitere Firma, Hannah Group, unter der die Entwicklung der künstlichen Intelligenz gestartet worden sein soll. Diese erhielt den Arbeitstitel "Titan" und später den Namen "Zach".

    KI wird per E-Mail trainiert

    Doch auch auf technischer Ebene stapeln sich die Ungereimtheiten. Für das Training von Zach soll ein allgemeiner Arzt namens Robert Seddon-Smith verantwortlich sein, der ein eigenes Gesundheitszentrum leitet. Er erläuterte gegenüber The Spinoff, wie das Training der KI abläuft, was jedoch weitere Fragen aufwirft.

    Laut dem Arzt wird die KI mit Mitschnitten von Patientengesprächen gefüttert und liefert anschließend Zusammenfassung und Empfehlungen. Diese enthalten allerdings mitunter Fehler. Dann schicken die Ärzte Hinweise und Referenzdokumente. Dabei läuft der komplette Austausch zwischen ihnen und der KI per E-Mail. Üblicherweise dauert mindestens 20 Minuten, ehe Zach auf neue Eingaben reagiert. Derzeit nutze man noch IT-Infrastruktur in "Übersee", im künftigen "Discovery Center" sollen jedoch mehrere Supercomputer des Typs Cray XC50 aufgestellt werden. Die Rechner kosten mehrere Millionen Dollar pro Stück.

    Experten zweifeln

    Verschiedene Experten äußerten Skepsis ob der Versprechungen und Funktionsweise von Zach. Dass eine Intelligenz, die auf spezieller, leistungsstarker Hardware läuft, mindestens 20 Minuten für Antworten benötigt, ist verwunderlich. Unabhängig von Tageszeit oder Anzahl von Anfragen sollten Resultate eigentlich spätestens binnen weniger Minuten nach Übermittlung eines Audioclips vorliegen.

    Geradezu absurd findet man, dass die Doktoren mit der Maschine per E-Mail kommunizieren. Das sei für eine KI, die auf das Verarbeiten menschlicher Sprache spezialisiert ist, unsinnig. Gängigerweise wird eine Programmierschnittstelle geschaffen.

    Auch in Expertenkreisen ist Alberic Whale nicht bekannt. Auch von Zach oder der Terrible Group hat noch niemand was gehört. "Ich glaube, da versucht sich jemand als Trittbrettfahrer", vermutet Ian Watson von der University of Auckland. Er zweifelt stark an, dass die unbekannte Firma gleich mehrere Probleme gelöst haben soll, mit dem sich Heerscharen von Entwicklern bei IT-Größen wie Amazon, Microsoft oder IBM schon seit vielen Jahren beschäftigen.

    "Auch Google hat niemand geglaubt"

    Alberic Whale selbst war für den Journalisten nicht erreichbar, wohl aber sein Vater David. Laut diesem befindet sich ein wissenschaftliches Paper zur Technologie hinter Zach derzeit im Review. Details wollte er nicht verraten. Weit fortgeschrittene Technologien würden auf Außenstehende jedenfalls oft so wirken wie "Magie", erwiderte er auf skeptische Nachfragen. Der Spinoff-Journalist vermutet mittlerweile, dass die Auswertung der Audiomitschnitte und Antworten auf E-Mails schlicht von Menschen verfasst würden, was auch die seltsamen Verzögerungen und Tippfehler erklären würde.

    Nach der Veröffentlichung des Artikels rührte sich etwas bei der Terrible Group. Man veröffentlichte eine "Zurückweisung" und das Portal Stuff konnte ein Interview mit dem mysteriösen Firmengründer führen. Auch dieses hinterließ einen dubiosen Eindruck. Demnach residiert das angeblich extrem reiche Unternehmen, das über ein Vermögen von 450 Millionen in Sachwerten verfügen soll, in einem beinahe leeren Büro über einem Fahrradladen.

    Wo die Supercomputer stehen, die Zach antreiben sollen, wollte man nicht verraten. Der Ort sehe jedenfalls aus, wie viele andere Rechenzentren. Ein Besuch setze die Unterzeichnung zahlreicher Dokumente und eine Flugreise voraus. Dass es Skepsis ob des Projekts gäbe, hänge auch damit zusammen, dass "vieles digital und somit unsichtbar" sei. Man übt sich jedenfalls in Optimismus: "Auch Google hat niemand geglaubt, als sie begonnen haben." (red, 09.03.2018)

    • Symbolbild: C-3PO, einer der bekanntesten Roboter aus "Star Wars" – ebenfalls ausgestattet mit künstlicher Intelligenz.
      foto: disney

      Symbolbild: C-3PO, einer der bekanntesten Roboter aus "Star Wars" – ebenfalls ausgestattet mit künstlicher Intelligenz.

    Share if you care.