「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

AI 制 AI現在不咋行在「犯罪」的道路上,人類可能是無師自通的。ChatGPT 火了,下一秒就有學生拿它來做作業、寫論文,你很難說這到底是作弊還是剽竊。老師很難確定學生的作業都出自自己之手,而人類也無法確定工具的最終形態到底是什麼。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

面對成本低、效率高的 AI 文字生成工具,僅靠人類的智慧已經很難進行分辨。最頂尖的人工智慧公司從「師夷長技以制夷」中學到的經驗也用在了這裡——它們要用 AI 識別 AI。以 AI 治 AI,它們出手了OpenAI 是近年風頭最勁的人工智慧研究室。過去一年你看到的文字生成影片、文字生成影象都有它的身影,ChatGPT 也是它的得意之作。基本每個月都會發布震驚業界成果的 OpenAI,剛釋出的新產品卻是一個 AI 內容檢測器。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

這個檢測器目前只能應用於文字內容,爭議和批評更多的影象則不在此列。檢測器唯一的功能就是從人工智慧的角度替你進行判斷,看看這段文字是不是人工智慧生成的。目前,只有美國地區的使用者可以體驗這個檢測器的功能,檢測器本身也對檢測文字進行了一定的限制:

英文文字,檢測器和 ChatGPT 在英文外其他語言表現不佳。

需要 1000 個字元,大約 150-250 個左右的單詞才能生成更可信的結果。

檢測器在兒童撰寫的文字內容上同樣表現不佳,檢測器主要針對成人英文文字進行訓練。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

最終檢測器會在完成判斷後給出「很可能、可能、不清楚、不可能、非常不可能」5 種答案。這個檢測器從目前來看也不太聰明。在測試中,有文章末尾顯示「本文全文由 ChatGPT 撰寫」的內容,檢測器仍表示「不清楚」這篇文章是否由人工智慧撰寫。這也是檢測器目前尚無法從理解文字上進行判別的「證據」之一。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

檢測器的出現象徵意義比實際意義更大,這說明知名的人工智慧實驗室們依舊在乎內容的真實。畢竟從 ChatGPT 誕生開始,學校的老師就開始擔心學生的作業不再被認真對待,世界上最大的學術出版商宣告 ChatGPT 不能被記為作者,還有人擔心新技術變為欺詐的工具。而現在,人工智慧實驗室想努力辨別內容的創作來源,這本身就是好事。即便你是創造者,安能辨我是 AI好事之外,多的是壞訊息。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

因為這個檢測器的成功率有點慘不忍睹——26% 的準確率放在醫學領域屬於謀財害命一般的存在,就算放在運動領域預估運動員下一個動作能否得分的成功率都沒這麼低。OpenAI 在釋出這個工具時也承認了這一點。它有時會「錯誤但自信地」將人類書寫的文字標記為人工智慧創造的文字,尤其是當文字與訓練資料中的內容有較大差別時。

目前這個檢測器還很初級,甚至可以說這是一個「半成品」。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

除了 OpenAI 自己提到的兒童內容和非英文內容,有點年頭的英文內容也很容易被誤判。已經逝世的知名作家們的作品幾乎無一倖免,帶有時代特色的表達方式很容易被判定為 AI 作品。莎士比亞就慘遭毒手,他最短的悲劇《麥克白》就被判定為「該文字很可能是人工智慧生成的。」

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

莎士比亞的作品很可能是 AI 生成的連創造者 OpenAI 都有點束手無策,辨別 AI 生成內容的道路依舊任重道遠。當然這也很好理解,畫作相對文字還要更高門檻一些,透過筆觸、風格、水印,大家還能看出 AI 模仿學習的痕跡。但文字沒有「水印」,大家用創作出的文字也非常多樣,因為創作者受教育的高低程度和表達風格,在最終文字上有較大差別也是可以理解的。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

AI 創造的內容越來越接近人 圖片來源:Midjourney甚至可以這麼說,等 ChatGPT 再進一步,可能人類都無法判定這是否是人工智慧生成的文字了。因為它就像身邊你我會寫出來的內容——沒有陌生的自創詞彙,不會前言不搭後語,內容言之有物。如果人已經分辨不出內容的源頭了,那 AI 就成了未來的希望了。不管是用 AI 生成的內容自動加「水印」,還是檢測器經過多次迭代後正確率無限提高,AI 都是更好完成辨別的特殊角色。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

除了創造者 OpenAI 在行動,還有不少學者、實驗室、大公司都在努力辨別 AI 內容。一個叫做 Edward Tian 的學生建立了一個網站,想要「檢測 AI 剽竊」;Google 為了不在人工智慧發展中掉隊,據稱將上架 6 個 AI 相關應用,其中就有檢測應用;抄襲檢測器Turnitin正在開發自己的 AI 生成文字檢測器。當然,這都屬於未來,我們面臨的現狀是 AI 可以輕鬆製造大量內容,最終模糊資訊源,而身為普通消費者的我們將很難辨別它的生產源頭。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

AI 文字生成,輕易汙染資訊的模糊未來還記得我們曾在《她在中文維基百科上胡編了上百萬字的古羅斯歷史,把俄羅斯人都騙了》寫的故事嗎?一個高中畢業生靠著「一腔熱情」在維基百科上寫了幾百萬字的歷史內容,這些內容甚至流傳到了外網,被很多外網內容引用為來源。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

如果將這個高中畢業生看作 AI,你就能懂 ChatGPT 的存在對資訊可能造成怎樣的汙染了。這位高中生 3 年編了百萬字歷史,AI 的效率只會比他更高。他用三年生成的內容,隨著 AI 的進步可能三天甚至三小時不到即可生成。更低的內容製作成本,AI 只會做得更好,畢竟它本身就是在模仿學習,繼續模模擬實的歷史生成一段「歷史」並不難。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

當然,AI 還沒有進化到《流浪地球 2》Moss 那樣的地步。它還沒有意識要去做這件事,有意識也不一定有意願去做這件事。但 AI 本身就是一種工具,就像用人用刀切菜做佳餚一樣,也可能有人持刀傷人。千萬別說沒人這麼無聊,既然有人一字字都能編出百萬歷史,那門檻更低的 AI 內容會生成什麼故事、用於哪裡都是正常的。人類的多樣性總是超乎想象,當這種多樣碰上了 AI 的高效,資訊被汙染的情況只會越來越多。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

這還只是 ChatGPT 剛出現幾個月後人們的想象。在 ChatGPT 爆火的兩個月內,學生就已經自發用這種工具做作業、寫論文偷懶,編劇會用它編故事試試出乎人意料的故事走向;文案編輯用它來給自己打工。在用工具給自己省事這件事上,人連教都不用教。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

工具一旦離開工坊,被如何使用就不能由造工匠控制了。要想影響工具的使用,要麼修改工具,要麼製造新的工具。

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

ChatGPT 通過了頂尖大學的考試,比反 AI 更該做的是改考題

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

蘋果前首席設計官的新公司,今天釋出了最「蘋果」的新產品

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

「最強 AI」成為作弊天才,終於有人用魔法打敗魔法!

頂部