Der britische Telekommunikationsriese O2 kündigte den möglicherweise ersten Einsatz einer Konversations-KI an, die speziell zur Bekämpfung von Telefonbetrug im britischen Telekommunikationssektor entwickelt wurde.
Der Held: eine ahnungslose Großmutter, die endlos und frustrierend abschweift, während idiotische Betrüger versuchen, ihr Geld aus der Tasche zu ziehen.
Das System mit dem Namen „Daisy“ nutzt KI-Modelle, um Betrüger in bis zu 40 Minuten langen Gesprächen zu fangen und so Millionenverluste bei den 24 Millionen Mobilfunkkunden des Netzwerks zu verhindern. Das Tool arbeitet rund um die Uhr autonom und erfordert kein menschliches Eingreifen, um Gespräche mit mutmaßlichen Betrügern aufrechtzuerhalten.
„Hör auf, mich ‚Liebling‘ zu nennen, du dummer [Schimpfwort gelöscht]!“, rief ein verärgerter Fernsehkameramann in einem Video, das O2 ausstrahlte, um sein neues Tool vorzuführen.
„Verstanden, Liebling!“, antwortete die freundliche KI-Oma.
Die Initiative erfolgt vor dem Hintergrund, dass 67 Prozent der britischen Erwachsenen Angst haben, Opfer von Betrügern zu werden. 22 Prozent sind laut einer Umfrage von O2 unter mehr als 5.000 Briten wöchentlich mit Betrugsversuchen konfrontiert.
„Daisy, das neueste Mitglied unseres Betrugspräventionsteams, dreht den Spieß um und überlistet die Betrüger bei ihrem eigenen grausamen Spiel, indem sie sie einfach in der Leitung hält“, sagte Murray Mackenzie, Betrugsdirektor bei Virgin Media O2. Das Unternehmen blockierte allein im vergangenen Jahr über 250 Millionen Pfund an mutmaßlich betrügerischen Transaktionen.
Und so funktioniert es: Wenn ein Benutzer einen betrügerischen Anruf erhält, leitet er den Anruf an die Nummer 7726 weiter, die als Hotline zur Meldung von Betrug verwendet wurde. Von dort aus verwendet Daisy ein benutzerdefiniertes großes Sprachmodell mit einer „Persönlichkeitsebene“, die Echtzeitantworten an die Betrüger generiert.
Das System transkribiert eingehende Sprache in Text, verarbeitet sie durch das KI-Modell, sodass die Antworten kontextrelevant sind, und wandelt die Textausgabe wieder in Sprache um, wodurch natürlich klingende Gespräche entstehen, die fiktive persönliche Details und Bankinformationen enthalten können.
Die KI wurde in Zusammenarbeit mit Jim Browning entwickelt, einem bekannten YouTube-Content-Ersteller, der für die Aufdeckung von Betrugsfällen bekannt ist.
Es zielt darauf ab, die Angriffe der Betrüger auf ältere Opfer auszunutzen, indem es sich als plauderhafte Großmutter ausgibt und ausschweifende Geschichten über die Familie und Strickarbeiten erzählt.
Die umfassendere Betrugspräventionsstrategie von Virgin Media O2 umfasst KI-gestützte Spam-Erkennungssysteme, eine automatische Firewall, eine kostenlose Anrufer-ID und eine Betrugsmeldehotline.
O2 sagt, dass sie im vergangenen Jahr allein durch Meldungen an die Nummer 7726 89 Millionen betrügerische Textnachrichten abgefangen haben. Nun erwartet das Unternehmen, dass es seine Effektivität dank KI steigern kann.
„Da die Betrüger ganztägig Callcenter betreiben, um gezielt Briten anzusprechen, fordern wir alle auf, wachsam zu bleiben“, sagte Mackenzie.
Das Unternehmen empfiehlt seinen Kunden, verdächtige Anrufe und SMS an die Nummer 7726 weiterzuleiten, anstatt selbst mit potenziellen Betrügern in Kontakt zu treten.
USA: Mehr Raffinesse, weniger Spaß
Obwohl sie nicht ganz so kreativ sind, nutzen US-Fluggesellschaften in ihrem Arsenal an Betrugsbekämpfungstechnologien ebenfalls KI.
So hat etwa Orion, ein wichtiger Technologiepartner mehrerer Mobilfunkanbieter, KI-gestützte Lösungen mit Schwerpunkt auf prädiktiver Modellierung und Echtzeit-Anrufanalyse eingesetzt, um verdächtige Anrufe zu identifizieren und zu kennzeichnen, bevor sie den Verbraucher erreichen.
Microsoft ist ebenfalls mit Azure Operator Call Protection in den Kampf eingestiegen. Das System wird derzeit gemeinsam mit der BT Group getestet und analysiert Live-Gespräche auf Betrugsindikatoren. Diese Systeme sowie neue Technologien wie SCAMBlock und Scamnetic nutzen künstliche Intelligenz als präventiven Schutzschild und nicht als interaktive Verteidigung, wie es O2 tut.
Wir haben AT&T und Verizon gefragt, ob sie ähnliche Pläne hätten, da dies eine sehr lustige Art zu sein scheint, mit diesen Dreckskerlen fertig zu werden, aber wir haben noch keine Antwort erhalten.
Herausgegeben von Sebastian Sinclair