ChatGPT users on macOS shocked to learn chats were stored unencrypted

Cointelegraph · 2024-07-05T16:11:31.000Z

The partnership between Apple and OpenAI is off to a rocky start as ChatGPT users on macOS recently learned their conversations were being stored in plain-text files. Apple has positioned itself as a company that prioritizes privacy in a market where many of its competitors reap a lion’s share of their profits by selling or repurposing user data. But, as demonstrated by data and electronics engineer Pedro José Pereira Vieito in a post on Meta’s Threads, somebody dropped the ball when it came to OpenAI’s third-party integration of ChatGPT on macOS. Source: Pedro José Pereira Vieito Privacy threat ChatGPT was released on macOS in May to subscribers. General access for non-subscriber accounts was made available on June 25. Until Friday, July 5, however, the app stored all chat logs in unencrypted plain-text files on users’ hard drives. This meant anyone with access to the computer, either physically or via remote attack such as malware or phishing, had access to every conversation any user on that computer had with ChatGPT. Sandboxing Apple’s macOS has a privacy protection measure called “sandboxing” that controls application access to software and data at the kernel level. Apps installed via Apple's app service are "sandboxed" by default so that data is never left unencrypted. Pereira Vieito attributes this recent issue to the fact that the ChatGPT app on macOS is offered solely through OpenAI’s website: “OpenAI chose to opt-out of the sandbox and store the conversations in plain text in a non-protected location, disabling all of these built-in defenses.” It’s unclear at this time if any users were actually affected by the apparent oversight, but the general tenor on social media and pundit commentary indicated shock. In the comments section of an article published on the Verge, for example, user GeneralLex posted that they discovered the unencrypted text files stored in their computer’s memory: “I used Activity Monitor to dump the ChatGPT executable from memory and found that, horror of horrors, chat log is in plain text, unencrypted in memory!” A simple mistake? The real question is: why did this happen? We know how it happened and it's clear the issue has been resolved, but the why remains unknown. Presumably, this was done so that OpenAI could easily access the chat logs for further development of ChatGPT. According to the app’s terms of use, users have to explicitly opt-out of sharing their data with OpenAI. But why didn't Apple intercede on behalf of users before the app went live and why didn't OpenAI recognize that it was generating sensitive, unencrypted data on user's machines? Cointelegraph reached out to OpenAI and Apple for more information but didn’t receive an immediate response from either. Related: Apple supercharging Siri and iOS with ‘Apple Intelligence’ and OpenAI

Partnerství mezi společnostmi Apple a OpenAI je na začátku, protože uživatelé ChatGPT na macOS se nedávno dozvěděli, že jejich konverzace byly ukládány do souborů ve formátu prostého textu. 
Apple se umístil jako společnost, která upřednostňuje soukromí na trhu, kde mnoho jeho konkurentů sklízí lví podíl na svých ziscích prodejem nebo přepracováním uživatelských dat. Ale jak ukázal datový a elektronický inženýr Pedro José Pereira Vieito v příspěvku na Meta's Threads, někdo upustil od koule, když došlo na integraci ChatGPT na MacOS od třetí strany OpenAI.
Ohrožení soukromí
ChatGPT byl pro předplatitele vydán na macOS v květnu. Obecný přístup pro účty bez předplatitelů byl zpřístupněn 25. června. Až do pátku 5. července však aplikace ukládala všechny protokoly chatu v nešifrovaných souborech ve formátu prostého textu na pevných discích uživatelů.
To znamenalo, že kdokoli s přístupem k počítači, ať už fyzicky nebo prostřednictvím vzdáleného útoku, jako je malware nebo phishing, měl přístup ke každé konverzaci, kterou měl kterýkoli uživatel na tomto počítači s ChatGPT.
Sandboxing
MacOS společnosti Apple má opatření na ochranu soukromí nazývané „sandboxing“, které řídí přístup aplikací k softwaru a datům na úrovni jádra. Aplikace nainstalované prostřednictvím aplikační služby společnosti Apple jsou ve výchozím nastavení „sandboxed“, takže data nikdy nezůstanou nezašifrovaná.
Pereira Vieito připisuje tento nedávný problém skutečnosti, že aplikace ChatGPT na macOS je nabízena výhradně prostřednictvím webu OpenAI:
"OpenAI se rozhodl odhlásit se z izolovaného prostoru a uložit konverzace v prostém textu na nechráněném místě, čímž deaktivoval všechny tyto vestavěné obrany."
V tuto chvíli není jasné, zda byli někteří uživatelé skutečně ovlivněni zjevným nedopatřením, ale obecný názor na sociálních sítích a komentáře učenců naznačovaly šok.
V sekci komentářů k článku publikovanému na Verge například uživatel GeneralLex zveřejnil, že objevil nešifrované textové soubory uložené v paměti svého počítače:
"Použil jsem Activity Monitor k výpisu spustitelného souboru ChatGPT z paměti a zjistil jsem, že hrůza, protokol chatu je v prostém textu, nezašifrovaný v paměti!"
Jednoduchá chyba?
Skutečná otázka zní: proč se to stalo? Víme, jak se to stalo, a je jasné, že problém byl vyřešen, ale důvod zůstává neznámý. 
Pravděpodobně to bylo provedeno proto, aby OpenAI mohl snadno přistupovat k protokolům chatu pro další vývoj ChatGPT. Podle podmínek použití aplikace se uživatelé musí výslovně odhlásit ze sdílení svých dat s OpenAI.
 Proč se ale Apple před uvedením aplikace do provozu nezastal jménem uživatelů a proč OpenAI nerozpoznalo, že generuje citlivá, nešifrovaná data na počítačích uživatelů?
Cointelegraph požádal OpenAI a Apple o další informace, ale od žádné z nich nedostal okamžitou odpověď.
Související: Apple přeplňuje Siri a iOS pomocí „Apple Intelligence“ a OpenAI

Prozkoumat více od tvůrce

Nejnovější zprávy