划重点:
1. 📈 人工智能技术使得仇恨内容和误导信息在网上迅速增加。
2. 🌐 生成的仇恨内容越来越多，对社会产生了担忧。
3. 💡 专家呼吁政府采取行动，制定相关法规和监管措施。
站长之家（chinaz.com）5月27日 消息:根据加拿大广播公司（cbc）的报道，专家们表示，人工智能技术使得仇恨内容和误导信息在网上迅速增加。
例如，今年早些时候，一名极右翼阴谋论者在前推特（现在叫 x）上分享了一段视频，这段视频是通过人工智能修改的，其中希特勒用英语发表了反犹太主义言论。这段视频迅速获得了超过1500万的观看次数。这只是一个例子，研究仇恨内容的机构和组织称这是一个令人担忧的趋势。
图源备注：图片由ai生成，图片授权服务商midjourney
加拿大反仇恨网络的记者彼得・史密斯表示:“我认为所有研究仇恨内容或仇恨媒体的人都会看到越来越多的 ai 生成内容。”
卑诗大学民主机构研究中心的副主任克里斯・特诺夫表示，白人至上主义团体等仇恨团体 “一直是新互联网技术和技巧的早期采用者”。这是联合国咨询机构在去年12月提出的一个担忧。该机构表示，“深度 ai 技术可能会让反犹太主义、伊斯兰恐惧症、种族主义和仇外心理等内容变得更加严重”。
生成 ai 系统可以几乎即时创建图像和视频，只需一个简单的提示。史密斯表示，与个人花费几个小时制作一张图像不同，他们可以用几个按键就制作出数十张图像。加拿大巴奈伊・布里思组织在最近的一份报告中提到了 ai 生成的仇恨内容。该报告指出，去年出现了 “以 ai 技术创造或伪造的反犹太主义图像和视频的前所未有增加”。他们还提到了一张经过篡改的图片，描绘了一个集中营内部有一个游乐场，让人们对大屠杀感到享受，这是只有通过 ai 才能产生的东西。
特诺夫表示，在以色列和哈马斯的战争中，深度伪造视频导致了关于事件的虚假信息的传播，并将虚假声明归咎于以色列军方和哈马斯官员。加拿大反伊斯兰恐惧症特别代表阿米拉・埃尔加瓦比表示，自冲突开始以来，反犹太主义和反伊斯兰恐惧症的叙述都有所增加。
专家们一致认为，ai 生成的仇恨内容是一个新兴问题，但他们尚未就问题的范围达成一致。特诺夫表示，目前对于社交媒体平台上 “有害或有问题的内容” 这类更广泛的