人工智慧內容檢測(AI Content Detection )目的在確定隨機生成(procedural generation)的內容,如:文章、圖像、音頻或視頻,是否是使用人工智慧。人工智慧內容檢測的軟體,如:GPTZero、Turnitin…等,發現所有檢測軟體只有 5個準確率超過 70%,且都低於 80%。人工檢測是傳統檢測是否有抄襲的方法,相當的耗時間;隨著電腦與網際網路的普遍使用,影響抄襲他人作品的難度越來越低。
人工智慧內容檢測也可以稱為:抄襲檢測(plagiarism detection|文章相似度檢測)如:反剽竊軟體(anti-plagiarism software)、剽竊檢測軟體(plagiarism detection software)或文字匹配軟體(text-matching software,縮寫:TMS)。
人工智慧內容檢測能夠藉由一份文件中找到與其它已存在文件內容相符的「特定片段」進行比對;若相符的特定片段越多,抄襲的可能性也就越高。如:文章指紋識別、字串匹配比較、詞袋分析、引文分析、性能比較性評估,如:Stylometry可以識別 變相抄襲、文字改寫式的抄襲、作者歸屬確認…等。
參考:
- 針對偵測寫作風格、詞袋重複性、句法、語法與語意一致性的工具:AI內容檢測工具(AI content detection tools) 、Turnitin 英文 AI寫作檢測、AI 生成內容偵測器…等;
- 程式碼抄襲也經常出現在程式寫作相關的作業上,是否能以「人工智慧內容檢測」有待商榷。
人工智能調校
人工智能調校(AI alignment)為引導人工智能(裝置與系統)的行為符合設計者的利益和預期目標。一個未完善調校(對齊)的系統可能會在「某不預期時刻」發生故障,或是產生有害後果。如:評分偏好推薦系統、語言模型、機器人、自動駕駛汽車…等。