联合国教科文组织担心，如果人工智能开发者不遵守道德标准，生成式人工智能可能会扭曲大屠杀的历史。联合国儿童基金会在周一发布的一份报告中警告称，生成式人工智能可能会被不良行为者滥用。

另请阅读：国际清算银行警告称，各国央行必须“提高”人工智能水平

联合国教科文组织的报告警告称，不法分子可能会利用这项技术传播有关大屠杀的虚假信息、错误信息和误导性内容。

年轻人容易受到错误信息的影响

该报告与世界犹太人大会联合发布，警告称，年轻人频繁接触人工智能等新兴技术，因此更容易接收扭曲信息。

报告还显示，80% 的 10 至 24 岁年轻人使用人工智能完成学校作业等各种任务，这增加了他们获取扭曲信息的机会。

“如果我们允许通过不负责任地使用人工智能来淡化、扭曲或伪造大屠杀的恐怖事实，我们就有可能面临反犹太主义爆炸性蔓延的风险，并且我们对这些暴行的原因和后果的理解也会逐渐减少。”

联合国教科文组织总干事奥黛丽·阿祖莱。

报告还强调，人工智能有“过度简化复杂历史，只关注范围狭窄的来源和少数事件”的强烈倾向。例如，大约 60% 到 80% 的人工智能搜索引擎的顶级图片结果只显示一个大屠杀遗址，即奥斯维辛-比克瑙。

教科文组织呼吁采取行动加强道德规范

报告认为，人工智能可以延续现有的偏见，大屠杀也不能幸免于这些人工智能偏见。联合国教科文组织表示，关于大屠杀的虚假信息已经很普遍，而生成性人工智能的使用可能会使情况进一步恶化。

另请阅读：在人工智能竞争日益激烈的情况下，Meta AI 进军印度市场

阿祖莱强调了执行道德标准以保护年轻人免受扭曲信息侵害的重要性。

“实施联合国教科文组织的《人工智能伦理建议》刻不容缓，这样年轻一代才能在事实而非谎言的环境中成长。”

阿祖莱。

报告强调，OpenAI 的 ChatGPT 和谷歌的 Bard（现为 Gemini）等人工智能模型产生了有关大屠杀的幻觉，详细描述了从未发生过的事件。联合国教科文组织称，这些模型“通过纳粹在河流和湖泊中淹死犹太人的溺水行动捏造了大屠杀的概念。”

人工智能模型还创造了虚假的引文来支持这些扭曲的叙述。鉴于这些事件，教科文组织呼吁采取多方利益相关者的方式来应对这一挑战。解决方案之一是迅速实施成员国于 2021 年通过的《人工智能伦理建议》。

联合国教科文组织还敦促科技公司尊重公平、透明、人权和尽职调查原则。2 月份，八家科技公司向联合国教科文组织总干事签署了一份承诺，承诺在开发人工智能模型时采取合乎道德的方法。

Enacy Mapakame 的 Cryptopolitan 报道