蕭簫 發(fā)自 凹非寺

量子位 | 公家號(hào) QbitAI

ChatGPT的呈現(xiàn)，讓很多人看到了交期末高文業(yè)的曙光 （手動(dòng)狗頭）。

無論是英語論文、仍是閱讀條記，只要在ChatGPT的常識(shí)范疇內(nèi)，都能夠奉求它幫手完成，寫出來的內(nèi)容也有理有據(jù)。

不外，有沒有想過你的教師也籌辦用“ AI文本檢測器”一類的工具來避免你做弊？

像如許輸入一段看起來沒弊端的條記，顛末它一番檢測，認(rèn)為那段文字“由AI編寫” （Fake）的可能性為 **.*8%！

△文本由ChatGPT生成

換個(gè)數(shù)學(xué)論文嘗嘗？ChatGPT的輸出看起來沒啥問題，卻仍然被它準(zhǔn)確識(shí)破了：

△文本由ChatGPT生成

那可不是靠瞎蒙或推測，究竟結(jié)果對(duì)方同樣是個(gè)AI，仍是個(gè)訓(xùn)練有素的AI。

看到那有網(wǎng)友調(diào)侃：用魔法打敗魔法？

用AI寫的工具來訓(xùn)練新AI

那個(gè)AI檢測器名叫 GPT-2 Output Detector，是OpenAI吉印通哈佛大學(xué)等高校和機(jī)構(gòu)一路打造的。 （沒錯(cuò)，OpenAI自家做的）

但即使是專門檢測GPT-2的模子，用來檢測其他AI生成文本效果也同樣不錯(cuò)。

做者們先是發(fā)布了一個(gè)“GPT-2生成內(nèi)容”和WebText （專門從國外貼吧Reddit上扒下來的）數(shù)據(jù)集，讓AI理解“AI語言”和“人話”之間的差別。

隨后，用那個(gè)數(shù)據(jù)集對(duì)RoBERTa模子停止微調(diào)，就得到了那個(gè)AI檢測器。

RoBERTa （Robustly Optimized BERT approach）是BERT的改良版。原始的BERT利用了1*GB大小的數(shù)據(jù)集，但RoBERTa利用了包羅6*00萬條英文新聞的160GB數(shù)據(jù)集。

△文字來源Medium@Megan Ng

當(dāng)然，那個(gè)檢測器也并不是100%準(zhǔn)確。

同時(shí)，模子生成成果隨機(jī)性越高，AI生成內(nèi)容被檢測出來的概率也會(huì)更低。

但即使將模子調(diào)整到生成隨機(jī)性更高 （Temperature=1，越接近0生成隨機(jī)性越低），1.24億參數(shù)模子被檢測出的概率仍然是88%，1*億參數(shù)模子被檢測出的概率仍然有*4%。

那是OpenAI兩年前發(fā)布的模子，其時(shí)對(duì)GPT-2生成的內(nèi)容就“一打一個(gè)準(zhǔn)”。

如今面臨晉級(jí)版的ChatGPT，檢測英文生成內(nèi)容的效果照舊能打。

AI檢測器給出是人寫的概率為**.*6%……

當(dāng)然話說回來，ChatGPT也能檢測本身生成的文本。

One More Thing

值得一提的是，ChatGPT暗示本身其實(shí)不能拜候互聯(lián)網(wǎng)來搜刮信息。

顯然，它還意識(shí)不到GPT-2 Output Detector那個(gè)AI檢測器的存在：

所以能不克不及像網(wǎng)友所說，讓ChatGPT生成一段“不被AI檢測器測出來的”內(nèi)容呢？

很遺憾不克不及：

所以高文業(yè)仍是本身寫吧……

— 完—

「人工智能」、「智能汽車」微信社群邀你參加！

歡送存眷人工智能、智能汽車的小伙伴們參加我們，與AI從業(yè)者交換、商討，不錯(cuò)過最新行業(yè)開展手藝停頓。

PS. 加老友請(qǐng)務(wù)必備注您的姓名-公司-職位哦 ~

點(diǎn)那里 ??存眷我，記得標(biāo)星哦～

一鍵三連「分享」、「點(diǎn)贊」和「在看」

科技前沿停頓日日相見~