OpenAI拟为ChatGPT生成文本加入隐形标记

(哈萨克国际通讯社讯)OpenAI计划在欧盟地区为ChatGPT生成的文本引入一种特殊标记机制,以便识别由人工智能生成的内容。此举与欧盟《人工智能法案》有关,该法案对人工智能生成内容的标识提出了相关要求。

OpenAI agents accessed US government sites
Photo credit: Unsplash

根据相关介绍,新系统将在文本中加入肉眼不可见的特殊标记。普通读者无法看到这一标记,但通过专门的检测工具,可以判断文本是否由OpenAI系统生成。

这项名为textGrain的技术,会在生成文本过程中对词语选择进行统计学层面的调整,并以此在文本中留下隐藏标记。

该技术旨在帮助区分人工智能生成内容与人工撰写文本,并判断内容来源。不过,OpenAI同时指出,这一技术并非在所有情况下都能准确识别。

例如,当文本篇幅过短,或者生成后的内容经过大量修改时,隐藏标记可能变得难以检测。

此外,该系统无法确定文本具体由谁撰写,也不能判断一篇文本中人工撰写与人工智能生成内容分别占多大比例。

OpenAI计划首先在欧盟地区的ChatGPT和Codex服务中引入这一机制。