隱私組織 Noyb 向奧地利數據保護局 (DPA) 投訴 OpenAI，理由是其產品 ChatGPT 違反了歐盟的多項數據保護法。該組織表示，ChatGPT 分享了有關人們的不正確信息，而歐盟的《通用數據保護條例》(GDPR) 要求人們的信息必須正確無誤，並且必須向人們提供對其信息的完全訪問權限。
OpenAI 面臨 GDPR 指控
Noyb 由著名律師和活動家 Max Schrems 創立，聲稱 ChatGPT 分享了一位著名公眾人物的虛假生日日期，當要求允許存取和刪除與他相關的資料時，他的請求被 Open AI 拒絕。
Noyb 表示，根據歐盟的 GDPR，有關任何個人的任何信息都必須準確，並且他們必須有權訪問和了解有關來源的信息，但 OpenAI 表示，它無法更正其 ChatGPT 模型中的信息。該公司也無法判斷這些資訊的來源，甚至不知道 ChatGPT 儲存了哪些個人資料。
Noyb 聲稱 OpenAI 已經意識到這個問題，並且似乎並不關心這個問題，因為它對此問題的論點是：
“大型語言模型中的事實準確性仍然是一個活躍的研究領域。”
Noyb 指出，當學生使用 ChatGPT 做作業時，ChatGPT 吐出錯誤訊息可能是可以容忍的，但對於個人來說，這顯然是不可接受的，因為歐盟法律要求個人資料必須準確。
幻覺使聊天機器人不符合歐盟法規
諾伊布提到，人工智慧模型很容易產生幻覺，並產生實際上是錯誤的訊息。他們質疑 OpenAI 產生資訊的技術程序，因為它指出 OpenAI 的推理是：
“通過預測響應每個提示時可能出現的下一個最可能的單詞來響應用戶請求。”
資料來源：Statista。
Noyb 認為，這意味著儘管該公司擁有大量可用於訓練其模型的資料集，但它仍然不能保證向用戶提供的答案實際上是正確的。
諾伊布的資料保護律師 Maartje de Gaaf 表示，
「編造假訊息本身就很成問題。但當涉及到有關個人的虛假信息時，可能會產生嚴重後果。
資料來源：諾伊布。
他還表示，任何技術都必須遵守法律，不能玩弄，因為在他看來，如果一個工具不能對個人產生正確的結果，那麼它就不能用於此目的，他還補充說，公司在技術上還沒有完善創建能夠遵守歐盟相關法律的聊天機器人。
生成式人工智慧工具受到歐洲隱私監管機構的嚴格審查，早在 2023 年，義大利 DPA 就暫時限制了資料保護。目前尚不清楚結果會是什麼，但根據 Noyb 的說法，OpenAI 甚至沒有假裝自己會遵守歐盟法律。
