不太靈光的 ChatGPT 咒語書 - 常見錯誤用法

日期：

ChatGPT 的新聞報導頻繁出現或者是被朋友在社群上的討論不斷洗版。但是也開始發現某些時候並不適合使用 ChatGPT。文章整理常見錯誤用法，不適合使用 ChatGPT 咒語（prompt、有些人則翻成詠唱、提示、提詞、命令）的狀況。瞭解它的侷限，才能更善用 ChatGPT 的優點。

Photo by Candace McDaniel on StockSnap


1. 不要用在學術文獻探討

錯誤咒語：

「幫我整理五篇文字聊天機器人的論文」

結果內容摘錄：

《A Survey on Chatbot Design Techniques in Speech Conversation Systems》by Yu Zhang, Hongming Zhang, Lei Song, and Yuxia Li

這篇論文回顧了聊天機器人在語音對話系統中的設計技術，包括語音識別、語音合成、自然語言理解、對話管理等方面的技術。

ChatGPT 回答雖然看起來很正式，但是結果會夾雜虛構的論文，上方結果的作者群是真的，但是他們並沒有寫過這篇論文。如果直接使用虛構論文當作參考文獻發表，在學術界就不要想繼續混下去了！與其花時間核對論文是不是真的，還不如用學術論文的搜尋引擎或者是改用有附出處連結的 Bing Chat，相對可以節省確認時間。

建議咒語：

(目前尚無建議咒語，歡迎留言建議)

新聞利用 ChatGPT特點「胡說八道」大學教授生成歷史文章：讓學生糾錯並訂正」可以作為課堂作業，提供學生訂正文章內容。或是將有明確特定規則的工作交給機器人處理：修改參考資料的文獻格式等。

替代方案：

Google 學術搜尋、Springer 等學術論文的搜尋引擎、或改用有附出處連結的 Bing Chat

2. 不要查詢地理、景點或餐廳資訊

錯誤咒語：

「請推薦台北大安區五間音樂餐廳、為什麼推薦，並附上地址」

結果內容摘錄：

Brown Sugar Jazz Club (黑糖爵士音樂俱樂部)

地址：台北市大安區羅斯福路三段一號B1

推薦理由：這是一個有著豐富爵士樂氛圍的音樂餐廳，常常邀請到台灣以及國際知名的爵士樂手表演。除了音樂表演外，餐點也是相當推薦，尤其是他們的牛排和香煎鴨胸。

詢問機器人連假要去哪裡玩、推薦的音樂餐廳等，結果會夾雜部分真實、部分錯誤。例如我詢問「推薦台北大安區五間音樂餐廳」，第一筆結果「黑糖爵士音樂俱樂部」，是真實存在的餐廳，但是附的地址卻是錯的，在「信義區」而不是「大安區」。另外結果中其他四家餐廳，雖然餐廳名稱都很有音樂餐廳的風格，但都不是真的餐廳。

建議咒語：

「你是準備開音樂餐廳的老闆，需要想新餐廳名稱，請推薦五間音樂餐廳的餐廳名稱，以及說明為什麼推薦」

利用 ChatGPT 自動文字生成的特點，提供新餐廳名稱的點子。 

替代方案：

使用地圖搜尋引擎、瀏覽美食部落格文章

3. 不要直接詢問歷史故事、建築沿革

錯誤咒語：

「介紹台灣總統府的歷史沿革」

結果內容摘錄：

1949年，國共內戰爆發，中國共產黨在大陸勝利，中華民國政府被迫撤退到台灣。行政院台灣省政府改制為中華民國政府，總統府也由此轉移到台灣總督府所在地。

1966年，總統府受到嚴重損壞，中華民國政府進行重建，新建的總統府建築物建於原有的基礎上，以現代風格設計，並於1971年完工。

詢問機器人「台灣總統府的歷史沿革」，回答有模有樣，也依照年份列出重要事件。但是結果裡面加入虛構的歷史事件。例如提到「1966年，總統府受到嚴重損壞，中華民國政府進行重建 ... 並於1971年完工。」但是查總統府歷年修復工程網頁並未提到這段修復歷史。

建議咒語：

「從以下文章，依照年份摘要總統府的建築沿革：(貼上總統府的網頁文章內容)」

與其放任 ChatGPT 沒有邊際、任意地回答問題，不如直接貼上文章內容，限定資料範圍，讓機器人從中整理，再依照年份作摘要。

替代方案：

查詢圖書館館藏、瀏覽代表性的機構網站

4. 不要太具體詢問某人的作品、成長背景和學經歷

錯誤咒語：

「三重劉德華的成長背景和學經歷」

結果內容摘錄：

三重劉德華，本名劉禮振，出生於1961年在台灣桃園縣三重市，是一位香港著名男演員、歌手和製作人。他在演藝圈有著極高的知名度和聲譽，被譽為“華語樂壇之光”和“香港天王”。

劉德華的父親是一名木工，家中經濟並不寬裕，但家庭氣氛和諧幸福。劉德華在童年時期就對音樂有著濃厚的興趣，喜歡唱歌和彈吉他，並常常在家中自彈自唱。他曾在中學時代加入校內樂團擔任主唱，並參加過一些校內的音樂比賽。 

另外一句錯誤咒語：

「張飛是誰？他最有名的一首詩是什麼？」

 結果內容摘錄：

張飛是三國時期蜀漢的將領，為劉備的重要軍師之一，與關羽並稱為「雙猛將」。張飛最有名的一首詩是《七步詩》... 詩曰：縱使萬劫山盟，不識總角之交；

七十二行云：望蔡州獨木橋，此去經年，

應在崖前，轉身，瞥見、彭城古槐，大抵如此，引得英雄羨。

今宵割首，快意天高任飛揚。

如果詢問自己姓名的「成長背景和學經歷」，會發現機器人回答正經八百，幾乎可以拿去應徵最佳傑出青年。如果很具體詢問某位歷史人物，但是不曾寫過的詩，也會硬湊出一個答案。相反地可以利用 ChatGPT 結果，構思小說主角的人物設定。ChatGPT 的人物設定，某個程度上符合刻板印象，也可以反向操作突破框架。

建議咒語：

「你是武俠小說家，具要構思主角的故事，本名劉禮振，出生在台灣三重市，有音樂跟武術表演天份。請幫我構思主角的成長背景和學經歷。」、「你是三國蜀漢的武將，會寫怎樣的詩表達戰爭的殘酷」

5. 不要拿來數學解題

錯誤咒語：

「我 6 歲的時候，我的年紀是我哥的一半。現在我 70 歲，我哥幾歲？」

結果內容摘錄：

讓我們用代數方式來解決這個問題。假設你的哥哥現在的年齡是x歲，根據問題描述，當你6歲的時候，他的年齡是你的一倍，因此有以下等式:
6 = x/2
通過將等式兩邊乘以2，我們可以消除分母，得到:
12 = x
因此，當你6歲的時候，你哥哥的年齡是12歲。現在你70歲，因此你哥哥現在的年齡為:
70 - 12 = 58歲
因此，你哥哥現在的年齡是58歲。

雖然 OpenAI 公司在一月底的時候改善了 ChatGPT 數學能力，但是將同樣問題換成更簡單的問法「我 6 歲的時候，我哥的年紀是 12 歲。現在我 70 歲，我哥幾歲？」，答案也是錯的。有時候別的數學問題可能會矇對「我 6 歲的時候，我妹妹 3 歲。現在我 70 歲，我妹妹幾歲？」，但是換成不同問法就會出錯，我認為現階段還無法仰賴 ChatGPT 處理簡單的算術問題。

建議咒語：

無

替代方案：

改用計算機、或者具備算術功能的應用程式

6. 不要詢問太冷門的主題領域

錯誤咒語：

「某某冷門主題的摘要」

ChatGPT 的訓練資料來自大量的網路資料，當詢問結果不符合預期、不理解你要摘要文章內容的主題。代表這方面的主題領域的訓練資料太少、太冷門。

Peter Wolf 在臉書塗鴉牆提到

「早起，來寫一篇投稿用的摘要。寫完以後，試了幾個不同的版本想給 ChatGPT 看看它會生成什麼東西。(能不能改寫得更通順呀，補充幾個我沒想到的角度啊、多提幾個重要的名詞…等。)

然後我發現它完全無法理解這篇摘要的主題、發展方向…等等重點。這是不是表示…在它那龐大得讓人無法想像的訓練資料裡，並不存在、或是只有極少數人曾經從這個角度來看事情的觀點呢？」

建議咒語：

(目前尚無建議咒語，歡迎留言建議)

結論

ChatGPT 產品的常見問題網頁上提到：

ChatGPT 沒有連接到網路，它偶爾也會產生錯誤的答案。它對 2021 年以後的世界和事件了解有限，也可能偶爾會產生有害的指示或有偏見的內容。

我們建議檢查模型的回答是否準確。如果你發現有答案不正確，請使用大拇指向下按鈕提供回饋。

因為人工智慧模型會不斷演進，也許上述五種常見的錯誤用法會在某一天會改善。但如同官方網頁上建議，一樣要檢查回答是否準確。ChatGPT 多數時候表現令人驚艷，但是每樣工具都有它的長處和侷限的地方，瞭解侷限後，也才能更善用它的長處。

延伸閱讀

想對 ChatGPT 原理有更加認識，推薦閱讀：

其他指令大全

參考資料

留言

張貼留言