Mehrere Mitglieder des US-Repräsentantenhauses, angeführt von Adam Schiff, fordern Google auf, seine Funktion „AI Overviews“ zu erläutern. Dieses in die Google-Suchmaschine integrierte Tool fasst Informationen mithilfe künstlicher Intelligenz zusammen.
Schiff und andere Politiker haben Google-Chef Sundar Pichai auf die Ungenauigkeit und Gefährlichkeit dieser Funktion hingewiesen. In dem Brief heißt es weiter, die KI ziehe Informationen von satirischen Websites und zitiere längst widerlegte Verschwörungstheorien, wodurch ahnungslose Nutzer mit falschen Informationen versorgt würden.
Brief weckt Bedenken wegen Falschinformationen
Schiff unterstrich die Risiken von Falschinformationen, insbesondere vor dem Hintergrund, dass Google für viele Amerikaner eine primäre Quelle für Nachrichten und Gesundheitsinformationen ist. Der Brief, der auch von den Abgeordneten Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. (D-Va.), Pramila Jayapal (D-Wash.) und Lori Trahan (D-Mass.) unterzeichnet wurde, bittet um Klarstellung zu mehreren Aspekten der Funktion „AI Overviews“.
Lesen Sie auch: KI-Geschichte nimmt Fahrt auf, Stimmung bei mehreren Vermögenswerten wechselt zu optimistisch
Der Gesetzgeber möchte außerdem wissen, wie Nutzer über die Risiken von Fehlinformationen informiert werden und innerhalb welcher Frist falsche Informationen korrigiert oder entfernt werden müssen.
Die Funktion „AI Overviews“ von Google verwendet das Gemini-AI-Modell, um Informationen aus den am höchsten eingestuften Seiten zu extrahieren und eine Zusammenfassung mit Links bereitzustellen. Der Funktion wurde jedoch vorgeworfen, falsche und irreführende Informationen zu liefern. Beispiele hierfür sind der Ratschlag, Steine als Vitaminquelle zu sich zu nehmen, und die Befürwortung der Religion Barack Obamas.
Aktuelle Kontroversen heben Probleme mit KI-generierten Inhalten hervor
Im Mai 2024 wurde Google kurz nach der Veröffentlichung von AI Overviews in den USA kritisiert, weil die Funktion vorschlug, Pizza mit Klebstoff zu verkleben, damit der Käse haften bleibt. Bis Redaktionsschluss gab es von Google noch keine direkte Antwort auf den Brief der Politiker.
In einem Blogbeitrag erklärte Liz Reid, Vizepräsidentin und Leiterin der Suche bei Google, außerdem, dass es Probleme mit der Funktion „KI-Übersichten“ gebe. Reid wies darauf hin, dass eines der Probleme von KI darin besteht, dass sie nicht gut funktioniert, wenn die gestellten Anfragen nicht durch ausreichend hochwertige Daten gestützt werden. Sie wies darauf hin, dass die KI, wenn ein Benutzer beispielsweise ein spezielles oder seltenes Thema oder ein Thema mit Satire eingibt, Antworten aus den wenigen Quellen auswählt, die ihr zur Verfügung stehen, und dass diese Quellen manchmal nicht glaubwürdig sind.
Es gibt auch Diskussionen über die finanziellen Folgen für die Verlage. KI-basierte Suchmaschinen wie Google können eine Zusammenfassung der Inhalte aus verschiedenen Quellen präsentieren, ohne den Verkehr zurück an die Urheber zu leiten, was sich auf ihre Einnahmen auswirken kann. Dies hat zu Gesetzgebungsmaßnahmen wie denen in Kalifornien geführt, wo Gesetzgeber eine Zahlung an Verlage befürworten, wenn Technologieunternehmen ihre Inhalte verwenden.