人工智能正在成为助长网络欺凌的工具，尤其是在青少年中，使保护变得更加困难。
据Newsnationnow报道，人工智能（AI）的快速发展不仅给各行业带来了新的机遇，也给网络隐私和安全的保护带来了严峻的挑战。最令人担忧的问题之一是网络欺凌的兴起，尤其是在青少年中。
根据家庭在线安全研究所的一份报告，社交网络平台和消息应用程序越来越成为坏人利用、在受害者离开学校或工作后继续跟踪和攻击的有利环境。
家庭在线安全研究所执行主任斯蒂芬·巴尔卡姆先生表示，人工智能不仅使网络欺凌问题变得复杂，而且还可能产生难以控制的新威胁。
如今的人工智能工具可以轻松编辑图像、视频，甚至制造出与现实无法区分的假产品。常见的攻击形式之一是利用人工智能将人脸移植到色情视频中或编辑其图像以进行侮辱和羞辱。这不仅增加了受害者必须忍受的羞辱程度，而且还对其心理健康和个人生活造成长期影响。
皮尤研究中心最近的一项研究显示，美国 13 至 17 岁青少年中约有 46% 经历过网络欺凌或骚扰。
这些行为往往与外表（占比最大）、散布虚假谣言或发送色情图片和视频有关。随着人工智能工具变得越来越复杂，识别假图像变得更加困难，这种情况变得更加严重。
网络欺凌问题正变得越来越严重。
调查显示，只有约50%的家长和青少年能够区分人工智能创建的真实图像和虚假图像，这表明人工智能在防止侵权方面需要识别支持工具。
专家提出的解决方案之一是要求AI工具能够创建识别痕迹，从而帮助用户轻松区分AI创建的图像或视频。这不仅有助于警惕虚假图像，还可以限制它们对个人，尤其是青少年等弱势群体的负面影响。
虽然人工智能可以在支撑产业方面发挥积极作用，但如果没有严格控制，这项技术也可能成为危害工具。因此，当局、科技公司和社区需要合作制定法规和支持工具，以保护用户免受人工智能可能带来的风险。
