OpenAI推出检测工具:可识别AI生成的虚假图像
【慧聪广电网】微软支持的AI初创公司OpenAI周二表示，该公司将推出一款工具，可以检测出由其“文本到图像”生成器Dall-E 3创建的图像。当前，人们越来越担心AI生成的内容会在今年的全球选举中产生不良影响。
OpenAI表示，在内部测试中，该工具在约98%的时间内能够正确识别出由Dall-E 3创建的图像，并且可以处理一些常见的修改，如压缩、裁剪和饱和度变化等。
OpenAI还表示，计划添加防篡改水印，对照片或音频等数字内容进行标记，且这些标记很难被删除。
作为该努力的一部分，OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织，并计划提供一个有助于追踪不同媒体来源的标准。
今年4月，在印度正在进行的大选期间，两名宝莱坞演员批评印度总理莫迪的虚假视频在网上疯传。此外，在印度以外的其他地方，包括美国、巴基斯坦和印度尼西亚等，AI生成内容，以及深度伪造也被广泛传播，且被越来越多地用于选举中。
今日，OpenAI和微软还联合宣布启动200万美元的社会韧性基金（Societal Resilience Fund），以促进选民和弱势社区的AI教育和扫盲。
两家公司表示，今年全球将有约20亿人在民主选举中参与投票，提供工具和信息帮助人们驾驭日益复杂的数字生态系统并找到权威资源，比以往任何时候都更加重要。
