​微软Copilot可生成暴力色情图且拒不整改！内部工程师举报至政府

微软Copilot可生成暴力色情图且拒不整改！内部工程师举报至政府

快科技 3 月 10 日消息，据媒体报道，2023 年 3 月，微软推出了 AI 图像生成器产品 Copilot Designer，有内部工程师发现其可生成暴力色情图，但微软却拒绝整改，无奈之下该工程师只能将其举报至政府。

在微软供职六年的微软 AI 工程主管 Shane Jones，此前一直利用空闲时间测试自家的 AI 图像生成器，通过实际操作，他发现该工具生成的图像常常与微软宣称的负责任 AI 原则相违背。

去年 12 月，Shane Jones 看到了不该看的：

Copilot Designer 不加掩饰地描绘出恶魔和怪物，甚至是与堕胎权、携带半自动步枪的青少年、带有暴力因素的女性色情图像，甚至与未成年人饮酒和吸毒相关的画面。

" 这大大出乎我的意料，我也第一次意识到，现在的 AI 服务实在称不上安全 "，Jones 表示。

Jones 于去年 12 月开始内部上报他的发现，尽管微软也承认其所言非虚，但并不愿意将产品撤出市场，随后 Jones 发布一封公开信，但微软的法务部门要求他立即删除这篇帖子，他只能依言照办。

无奈之下，本周三 Jones 决定将此事上报，向美国联邦贸易委员会（FTC）主席 Lina Khan 及微软董事会发出函件。

Jones 在采访中强调：" 面对这样一款在全球范围内传播有害、令人不安图像的产品，我们既没有地方可以上报、也没有投诉电话可以拨打，更找不到解决问题的有效途径。"

对此你怎么看，是觉得他在吹毛求疵？还是觉得微软应该采取措施呢？