您现在的位置是:首页 > 生活

助用户识别真假 Meta将标记AI生成图片

2024-03-11 17:00:02


美国Meta公司当地时间周二表示,将在未来几个月开始对上传到公司旗下社交平台面子书(Facebook)、Instagram和Threads的人工智能(AI)生成图片添加标记。

中新社报导,Meta在一份声明中表示,当用户使用Meta的人工智能功能创建逼真图像时,该公司会通过多项措施来确保人们知道其中涉及人工智能。这些措施包括在图像上添加可见标记,以及在图像文件中嵌入隐形标记和元数据,从而帮助其它平台识别。

Meta称,在发布由数码创建或更改的逼真视频或音频时,用户将被要求为这些内容打上相关标记,违规者可能会面临处罚。如果公司认为这类内容在重要问题上造成实质性欺骗公众的风险特别高,则可能会酌情为其添加更醒目的标记。

声明称,公司一直在与业内其它公司合作制定识别人工智能生成内容的通用标准。Meta称正在开发用以大规模识别隐形标记的工具,当谷歌(Googole)、OpenAI、微软(Microsoft)、Adobe、Midjourney和Shutterstock等公司为由各自工具创建的图像添加元数据时,Meta便可为这些图像添加标记。

美国广播公司(ABC)报导称,最近几周,人工智能生成内容带来的风险引起广泛关注。人工智能生成的美国流行歌手Taylor Swift虚假色情图片1月末在社交平台传播,白宫随即呼吁国会和科技公司采取行动。

美国新罕布什尔州检察长福尔梅拉1月22日表示,将调查一通用人工智能生成的美国总统拜登的声音打给选民的电话,该电话呼吁选民不要参与总统选举党内初选。

Meta全球事务总裁克莱格表示,随着美国人在2024年走向投票站,科技公司应该采取行动,确保用户能够识别网络内容是否真实。