Google verwendet künstliche Intelligenz, um Fragen zu Gesundheitsthemen zu beantworten. Einige Analysten halten dies für besorgniserregend, da die Funktion „KI-Übersichten“ möglicherweise unzuverlässige Informationen liefert.

Mediziner sagen, dass KI-Übersichten ein Problem darstellen können, insbesondere bei der Beantwortung persönlicher Gesundheitsfragen. Sie argumentieren, dass die Funktion möglicherweise ungenaue Informationen liefert, obwohl sie Menschen auch zu der erforderlichen medizinischen Behandlung führen kann, so ein aktueller Bericht der New York Times.

Suchfehler bei „KI-Übersichten“ schürt KI-Halluzinationen

Google hat AI Overviews eingeführt, eine Funktion, die Zusammenfassungen von Website-Inhalten erstellt und diese auf der Suchergebnisseite von Google anzeigt. Innerhalb weniger Tage nach der Einführung zeigte die Funktion eine Vielzahl von Ungenauigkeiten, da sie ihre Antworten auf fehlerhaften Quellen basierte. Ein Vorfall, der die Meinung weiter verstärkt, dass KI zu Halluzinationen neigt und sachlich falsche Informationen generieren kann.

Lesen Sie auch: Google beschränkt KI-Übersichten auf satirische und unsinnige Abfragen

Gesundheitsbezogene Suchergebnisse, die eine tägliche Dosis Steine ​​verabreichen oder Benutzer auffordern, geklebte Pizzas zu essen, haben eine Gegenreaktion hervorgerufen. AI Overviews zitiert zwar Quellen wie die Weltgesundheitsorganisation, WebMD, PubMed und die Mayo Clinic. Sie sind jedoch nicht auf diese Quellen beschränkt. Analysten sagen, dass das Tool Informationen von Reddit, Wikipedia, verschiedenen Blogs und E-Commerce-Sites bezieht.

Hema Budaraju, Senior Product Management Director bei Google, sagte, es gebe zusätzliche Schutzmaßnahmen für gesundheitsbezogene Anfragen, wollte aber keine weiteren Details preisgeben. Hema fügte hinzu, dass einige Anfragen keine KI-Übersichten auslösen, beispielsweise wenn das System eine Situation der Selbstverletzung erkennt.

Google erklärte, dass AI Overviews in den Google Knowledge Graph integriert sei, eine Wissensdatenbank mit Daten aus mehreren Quellen. Allerdings wurden keine Details zu den Websites bereitgestellt, die die Ergebnisse der KI-gestützten Suchfunktion unterstützen.

Google zeigt mehr KI-Übersichten für Gesundheitsanfragen

Die herkömmlichen Ergebnisse, oft als „zehn blaue Links“ bezeichnet, waren für Benutzer hilfreich, da sie so zwischen seriösen medizinischen Quellen und bezahlten Links oder weniger glaubwürdigen Websites unterscheiden konnten. Mit AI Overviews hat sich das Szenario geändert. Jetzt zeigt ein einziger Textblock Informationen aus verschiedenen Quellen an, was laut Analysten zu Verwirrung führt.

Kate Knibbs von Wired sagte in einem Podcast:

„Wenn Sie etwas wie Asthma oder Diabetes eingeben oder grundsätzlich nach irgendetwas suchen, das mit Krankheiten zu tun hat, werden Sie bis heute mit hoher Wahrscheinlichkeit immer noch eine KI-Übersicht sehen. Ich meine, das trifft nicht auf alle zu; es sind immer noch etwa 63 Prozent. Und ich denke, es kommt darauf an.“

Einige Ärzte, wie etwa Dr. Dariush Mozaffarian, sagen, dass KI-Übersichten zwar einige Fakten zeigen, die richtig sind, und diese zu Antworten zusammenfassen, sie unterscheiden jedoch nicht zwischen Beweisen aus Beobachtungsstudien und randomisierten Versuchen.

Eine weitere Ebene der Fehlinformation entsteht, wenn der Beitrag Informationen durcheinanderbringt. Beispiel: „Grüner Tee enthält Antioxidantien und hilft, Krebs vorzubeugen.“ Während Ersteres wahr ist, wurde Letzteres nicht klinisch bewiesen. Wenn solche Behauptungen zusammen aufgelistet werden, erwecken sie den falschen Eindruck, dass sie glaubwürdig sind.

Google hat KI-Übersichten eingeschränkt

Personen, die die Einführung der KI beobachten, raten zur Vorsicht bei der Suche nach gesundheitsbezogenen KI-Suchergebnissen. Sie sagen, Benutzer sollten das Kleingedruckte unter einigen Antworten lesen, in denen steht: „Dies dient nur zu Informationszwecken.“ Der Bericht der NYTimes merkte an, dass sich generative KI in der experimentellen Phase befindet und Benutzer bei jeder ernsthaften Erkrankung einen Arzt aufsuchen sollten.

Lesen Sie auch: Google-Kernalgorithmus-Updates und KI-Übersichten reduzieren den Traffic der Publisher

In einer Erklärung vom 30. Mai gab Google bekannt, dass es die Nutzung von AI Overviews in einigen Kategorien eingeschränkt habe. Daten der SEO-Firma Brightedge bestätigen diese Position und legen nahe, dass die Einschränkung bereits vor der Ankündigung des Unternehmens begonnen hatte.

Anderen Berichten zufolge hat Google bereits damit begonnen, KI-Übersichten für bestimmte Kategorien zurückzusetzen, noch bevor die Internetnutzer anfingen, sich über unsinnige Antworten lustig zu machen. Dennoch gibt es Behauptungen, dass die Gesundheitskategorie weiterhin eine hohe Anzahl von KI-Übersichten aufweist. Knibbs sagt:

„Ich habe mit einigen anderen SEO-Forschern gesprochen, die ebenfalls herausgefunden hatten, dass im Gesundheitswesen immer noch viele KI-Übersichten erstellt werden.“

Knibbs sagt, sie habe einige gesundheitsbezogene Suchanfragen getestet und innerhalb weniger Stunden unterschiedliche Ergebnisse gefunden, was zeige, dass Google daran arbeite, die Ergebnisse zu verbessern. Sie sagte: „OK, sie geben sich Mühe. Ich weiß nicht, ob sie es gut genug machen, aber sie geben sich auf jeden Fall Mühe.“

Cryptopolitan-Berichterstattung von Aamir Sheikh