OpenAI關閉自家AI檢測工具!看來「用AI揪出AI內容」的矛盾對決勝負已分?

現在一看,OpenAI推出ChatGPT好像是上輩子的事了。你還記得有很多學生都拿ChatGPT寫作業嗎?想當初,還有不少老師都開始頭疼,紛紛祭出各種規定想杜絕歪風。而因應這股反對聲浪,OpenAI在今年初推出用來辨別文本是否由AI撰寫的檢測工具AI Text Classifier,但沒想到這款工具才出現短短半年,OpenAI就在這幾天將它下架了。

首先介紹一下這款被打入冷宮的AI Text Classifier吧。根據OpenAI的說法,這款檢測工具是在一組由人類和人工智慧寫的文本數據集上進行微調,並運用依人類反饋進行強化學習 (RLHF)的InstructGPT作指令參考,從而輔助區分文本是由AI還是人類生成。雖然在推出之際,官方就有打預防針,表示這工具「並不完全可靠」,並說明會受到文章字數和語言的限制,甚至透露有特別調整信心閾值想降低誤判率。儘管如此,OpenAI可能仍舊沒料到隨著時間過去,不可靠的程度會超過預期,才在官網宣布關閉AI Text Classifier(也同時透露未來會推出更精確好用的檢測工具)吧。

看到這個消息,也不知是該高興「AI生成的內容越來越像人類產出般自然」呢,還是該感嘆「人類寫的文章已經漸漸跟AI沒有什麼區別」。但從現況來看,教授是越來越難分辨出學生的作業是自己寫還是由AI代筆了。不過,這似乎也反映出教育界不得不面對的改變。以往寫論文、做作業這種可反映學習成果的行為,總被嚴格要求需親自撰寫才有意義,但在現今AI生成內容已開始被有些人接受、連創造力都被超越的時代下,若只一味反對用AI來創造內容也不合時宜,以學習的角度來說,除了像現在很多人提倡的「懂得善用AI」,最重要的還是過程有無經過個人省思、並能真正學以致用吧。

目前看起來,這項「用AI工具能否認出AI內容」的矛盾大對決,是由後起的AI略勝一籌,但某方面來看,這個演進似乎也朝向人類所希望的──AI工具越來越好用──的方向發展,等到AI能完美生成與人類的產出品質相同、甚至更好的文本,不知道屆時,評斷文章內容的標準、或人類學習的方式會如何改變呢?

訂閱電子報

關於作者

返回頂端