Commissioner Calls for Caution on AI Amid Privacy Risks

Cryptopolitan · 2024-05-05T22:13:07.000Z

Big tech companies are urging that AI be implemented immediately, with no provision for citizens’ safety. This has also caused a new sense of frustration for the country’s new privacy commissioner. Reforms to strengthen privacy enforcement Commissioner Carly Kind told The Sunday Times she was not scared of an AI future but was concerned about the speed at which the fast-evolving technology is being used. She added that it would take time to understand AI’s implications and legislate against its misuse. Kind, who has vast experience in AI, is frustrated that there’s a sense of urgency for deployment, which seems to override a cautionary approach. Kind, who took up the role earlier this year, is the first standalone privacy commissioner after the Albanese government last year wound back cuts imposed under the Abbott government as part of its move to bolster the Office of the Australian Information Commission, which was set up with three commissioners to oversee privacy, information, and freedom-of-information. The privacy commissioner has the power to investigate serious privacy breaches. Still, the threshold is so high the office has launched only two civil penalty proceedings against organizations in the past nine years. The reforms to the Privacy Act, which will be introduced into parliament next month by the Attorney-General, Mark Dreyfus, will empower the Privacy Commission in its efforts to crack down on breaches. The need for a cautious AI approach Under existing law, the commissioner can only file legal action if there is a “serious or repeated interference.” Still, the new low-tier and mid-tier civil penalty provisions will probably mean more non-serious and one-off breach enforcement. Kind said the reforms enable a much more front-footed approach to addressing the most serious and harmful privacy invasions. The Privacy Act is a principle-based framework, but some parts are outdated and haven’t kept pace with our current development. Dreyfus agreed and committed to 38 of the 116 recommendations, agreed in principle to 68, and “noted 10”. The details of the new bill have yet to be finalized. Still, it is likely to incorporate the 38 recommendations the government agreed to, such as giving Australians the right to sue for privacy invasions. In contrast, the government mulls over the rest of the recommendations. Small businesses have said they were most worried about the regulatory and monetary costs of being forced to comply with privacy rules. Still, Kind said good privacy practices were fundamental to a good business. Keeping that data is one of the first lines of defense. If you don’t hold that data, you can’t lose that data. It is Kind’s first sit-down interview since taking up the position to mark Privacy Awareness Week. The theme for this year’s week is “powering up your privacy,” giving empowerment to people with their privacy rights online, even in this digital age with the advent of social media. She assumed the role shortly after the Office of the Australian Information Commissioner announced that it was inquiring into how TikTok collects information to determine whether the social media giant, which is harvesting Australians’ data without consent, will have to be investigated further. Kind says the questions continued, and TikTok had been “forthcoming” with information. An inquiry is a step before a formal investigation is opened.

Velké technologické společnosti naléhají na okamžitou implementaci umělé inteligence, aniž by byla zajištěna bezpečnost občanů. To také způsobilo nový pocit frustrace pro nového komisaře pro ochranu soukromí v zemi.
Reformy k posílení prosazování ochrany soukromí
Komisařka Carly Kindová pro The Sunday Times řekla, že se budoucnosti AI neděsila, ale obávala se rychlosti, s jakou je rychle se vyvíjející technologie používána. Dodala, že porozumět důsledkům AI a přijmout právní předpisy proti jejímu zneužívání bude nějakou dobu trvat. Kind, který má bohaté zkušenosti s umělou inteligencí, je frustrovaný, že je zde pocit naléhavosti nasazení, což, jak se zdá, převažuje nad varovným přístupem.
Kind, který se této role ujal začátkem tohoto roku, je prvním samostatným komisařem pro ochranu soukromí poté, co albánská vláda v loňském roce zrušila škrty uložené za vlády Abbott jako součást svého kroku na posílení Úřadu australské informační komise, který byl zřízen. se třemi komisaři, kteří dohlížejí na soukromí, informace a svobodu informací. Komisař pro ochranu osobních údajů má pravomoc vyšetřovat závažná porušení soukromí. Přesto je hranice tak vysoká, že úřad za posledních devět let zahájil proti organizacím pouze dvě občanskoprávní trestní řízení.
Reformy zákona o ochraně soukromí, které příští měsíc zavede do parlamentu generální prokurátor Mark Dreyfus, zmocní Komisi pro ochranu soukromí v jejím úsilí zasáhnout proti porušování.
Potřeba opatrného přístupu AI
Podle stávajícího zákona může komisař podat žalobu pouze v případě, že dojde k „závažnému nebo opakovanému zásahu“. Nová ustanovení o občanskoprávních trestech nízké a střední úrovně však pravděpodobně budou znamenat více nezávažného a jednorázového vymáhání porušení. Kind řekl, že reformy umožňují mnohem přímější přístup k řešení nejzávažnějších a škodlivých zásahů do soukromí. Zákon o ochraně osobních údajů je rámec založený na zásadách, ale některé části jsou zastaralé a nedrží krok s naším současným vývojem.
Dreyfus souhlasil a zavázal se k 38 ze 116 doporučení, v zásadě souhlasil s 68 a „zaznamenal 10“. Podrobnosti nového zákona musí být ještě dokončeny. Přesto je pravděpodobné, že začlení 38 doporučení, s nimiž vláda souhlasila, jako například dát Australanům právo žalovat za narušení soukromí. Naproti tomu vláda zvažuje zbytek doporučení. Malé podniky uvedly, že se nejvíce obávají regulačních a peněžních nákladů spojených s nucením dodržovat pravidla ochrany osobních údajů. Přesto Kind řekl, že dobré zásady ochrany osobních údajů jsou základem dobrého podnikání.
Uchovávání těchto dat je jednou z prvních linií obrany. Pokud tato data nedržíte, nemůžete o ně přijít. Je to Kindův první rozhovor vsedě od nástupu do funkce u příležitosti Týdne uvědomění si soukromí. Tématem letošního týdne je „posílení vašeho soukromí“, které dává lidem právo na soukromí online, a to i v tomto digitálním věku s příchodem sociálních médií. 
Roli převzala krátce poté, co Úřad australského komisaře pro informace oznámil, že zjišťuje, jak TikTok shromažďuje informace, aby zjistil, zda bude muset být gigant sociálních médií, který sbírá data Australanů bez souhlasu, dále vyšetřován. Kind říká, že otázky pokračovaly a TikTok „přicházel“ s informacemi. Vyšetřování je krokem před zahájením formálního vyšetřování.

Komisař vyzývá k opatrnosti ohledně umělé inteligence uprostřed rizik souvisejících s ochranou soukromí

Prozkoumat více od tvůrce

Nejnovější zprávy