ChatGPT是否需要監管？AI工具危險嗎？傳大陸政府已封殺ChatGPT

近期，AI 新科技 ChatGPT 在網路上大火，而讓 ChatGPT 如此受到歡迎的是它的「人性化」，比起以往死板的聊天機器人，ChatGPT 能讓人體驗到更多的樂趣。

但隨著人們對 ChatGPT 的探索，一些關於 AI 的問題也逐漸暴露了出來。過於「人性化」的 AI 工具是否會對人類造成危害？AI 的過度使用會威脅到人類文明嗎？以及是否需要對 ChatGPT 等 AI 工具進行監管呢？

馬斯克示警：人工智能是人類文明最大的風險，需要進行監管

ChatGPT是由美國公司OpenAI所開發的，而馬斯克就是OpenAI的聯合創始人之一，但由於理念不合，馬斯克在中途就推出了 OpenAI。

2 月 15 日，馬斯克在杜拜舉行的世界政府峰會上談及 ChatGPT 等人工智能，並表示「未來文明面臨的最大風險之一是人工智能」。他也提到ChatGPT已經向人類展示了人工智慧已經進步到了令人難以置信的地步，而這是大家需要擔心的事。

馬斯克在會上表示，雖然ChatGPT能力強大、前景看好，但伴隨而來的卻是巨大的風險。現在飛機、汽車、醫藥都有相關的監管規定，但人工智慧卻還沒有認合的規則或法規可以控管，「坦白說，我們需要去規範人工智慧，雖然這可能會稍微減緩人工智慧的發展，但我認為這也可能是一件好事」。

事實上，馬斯克過去就曾警告，無節制發展人工智慧將會很危險，甚至會比核彈頭「危險得多」。此次在世界政府峰會上的言論，也引起熱議，到底 AI 會不會對人類產生威脅呢？ChatGPT 等人工智能在當前使用中出現了什麼問題呢？

ChatGPT 等人工智能帶來了什麼樣的問題？

ChatGPT 熱潮席捲全球後，吸引了不少用戶進行探索，OpenAI 甚至因此推出了付費版的ChatGPT Plus。但在人們大讚 ChatGPT 好用的同時，也出現了不少爭議，其中，最令人震驚的就是AI 出現「雙重人格」，並把自己當做人類的問題。

整合 ChatGPT 的 AI Bing 出現人格分裂

《紐約時報》專欄作家凱文·羅斯（Kevin Roose）2月16日寫道，在與聊天機器人必應交談時，其第二人格希德尼（Sydney）突然冒了出來，而且像是一個有躁鬱症、情緒化，同時又憂鬱的青少年，還覺得自己被困在一個二流的搜尋引擎裡。最後甚至演變成恐怖情人，要他與妻子離婚。

羅斯文中以「最詭異的科技體驗」形容與Bing聊天機器人的對話歷程，並說他試用後輾轉難眠，「我不再認為這些人工智慧模型的最大問題是習於搞錯事實，反而擔心這項技術將學習如何影響人類使用者，有時會說服他們以破壞且有害的方式做事」。

 ChatGPT 等 AI 工具是否會造成學術造假

此外，由於 ChatGPT 已經被測試用來寫作、寫代碼甚至創作音樂，讓不少人在擔心飯碗不穩的同時，也擔憂會出現學術造假、作弊等情況。

》》》聊天機器人ChatGPT怎麼玩？ChatGPT註冊、操作和應用教學

》》》ChatGPT用途探索丨可幫寫代碼、寫加密貨幣論文；其回答真的可靠嗎？

》》》不懂代碼也能發幣？用ChatGPT創建新Token步驟教學

目前，ChatGPT已經在紐約、洛杉磯和西雅圖等地的學校，以保護學術誠信為理由被禁止。一名美國國會助理也表示許多擔憂都來自於關注作弊議題的教育工作者。

香港大學也在日前向師生發出內部郵件，表明禁止在港大所有課堂、作業和評估中使用聊天機器人ChatGPT或其他人工智慧（AI）工具，因為這符合抄襲定義，港大成香港首間明文禁止相關作法的大學。

而國內大學則多抱持「觀望」。台灣大學針對作業或論文使用AI工具是否構成抄襲的情況仍在研議中。

AI 恐造成虛假資訊傳播

史丹福大學的互聯網觀察所研究人員Renée DiResta曾發表報告，指AI系統是製造虛假資訊的一大威脅。訊息傳播者利用大型語言模型，就能以極高效率和低成本製造大量引導性的內容，進行宣傳或游說。產品或服務供應商可以藉此影響消費者的抉擇。

去年發表的多篇論文指出，大型語言模型和聊天機械人已發展至地步令人難以分辨它們與真人差別的地步，要判別傳訊者的真確身份變得困難。史丹福大學的研究發現，公開表明用AI寫道歉告示的人，會被視為「欠缺誠意」；承認用AI寫求職信的人，亦會被視為能力較低。可見請AI代勞是要付出代價的。倘若選擇用AI創作但秘而不宣，又會招來「不誠實」和「作弊」的污名。

學者預計，由ChatGPT引伸出來的真確性、欺騙和信任等課題，勢將愈來愈受重視，我們需要更多研究來探討AI對人際關係帶來的影響。

》》》香港大學禁用ChatGPT等AI工具 違者視為抄襲 台大會跟進嗎？

人工智能應該監管嗎？創辦人讚成但ChatGPT本身表示反對

不僅僅是馬斯克，OpenAI執行長山姆·奧特曼（Sam Altman）也曾在2月19日於推文中表示：「儘管目前的人工智慧工具並不可怕，但我認為可能離潛在的可怕不遠了」，並表示對其進行監管將「至關重要」。

OpenAI首席技術長米拉·穆拉蒂（Mira Murati）在接受《TIME》雜誌專訪時也警告道：「現在需要監管機構進行介入，以防止ChatGPT等生成式AI系統對社會產生潛在負面影響。」

而當被問及監管機構的介入是否會減緩發展的步調時，穆拉蒂認為現在介入並不算早，考量到這些科技將產生的影響，每個人都開始參與進來是非常重要的。

而據《路透社》報導，當被問及應該如何監管ChatGPT時，ChatGPT本身表示反對，並表示：「作為一個中立的人工智慧語言模型，我對可能或可能不會頒布的特定法律沒有立場，以監管像我這樣的人工智慧系統。」但隨後它列出了監管機構關注的潛在領域，例如數據隱私、偏見和公平，以及如何回答問題的透明度。

從目前來看，AI 熱潮來勢洶洶，接受 ChatGPT 等 AI 的存在是人們必須面對的現實，而如何處理 AI 工具的監管、應該怎麼監管、如何處理好 AI 與人類文明的關係仍有待思考。

大陸政府封殺ChatGPT

儘管 ChatGPT 等 AI 聊天機器人沒有在中國大陸正式上線，但還是有用戶透過虛擬私人網路下載使用。

不過據日本媒體報導，現在大陸監管機構開始要求騰訊和阿里巴巴旗下螞蟻集團等大型科技公司，不得向公眾提供聊天機器人ChatGPT服務，因為由人工智慧驅動的程式，回答內容無法監管控制，令當局感到不安。

TVBS北京特派陳韻雯表示，「目前大陸的科技大廠正在研發大陸版的ChatGPT，但是被要求在推出服務前，必須先向監管機構申報審查，科技業對於這項打壓是毫不意外，也透露出大陸人工智慧產業想在重重限制下超越西方大國，恐怕是相當不容易。」

更多相關內容：

ChatGPT掀起投資潮，AI 概念股大漲！2023人工智慧AI概念股有哪些？

ChatGPT帶動AI再度火熱，相關概念幣最高漲幅達380.2%

ChatGPT大火ETF沾光 11檔微軟相關ETF大噴發！最高竟漲3成

ChatGPT掀起新一波AI熱潮！有哪些「區塊鏈+AI」項目值得關注？

ChatGPT引爆AI板塊！近期爆火的AGIX幣是什麼？如何買AGIX賺錢？

謝金河：ChatGPT來襲，搜索引擎戰爭已開始，這3檔股價不寂寞

AI機器人ChatGPT正當紅，誰會是最後贏家？如何投資最賺？

ChatGPT同名山寨幣飆漲，ChatGPT：與OpenAI無聯繫，炒幣需注意風險

孫宇晨將開發基於 Tron 和 ChatGPT 的去中心化支付系統

ChatGPT的現狀和未來前景如何？2023年關於AI發展的7個預測

ChatGPT背後竟藏血汗工廠！時薪不到2美元，員工遭受持久心理創傷

微軟押寶ChatGPT挑戰Google，誰能成為搜索引擎的遊戲規則改變者？

迎戰 ChatGPT，Google 將推 AI 聊天機器人 Bard

微軟整合OpenAI ChatGPT，推AI搜索引擎新Bing！如何操作和使用？

ChatGPT加持丨微軟股票大漲 市值重返2兆美元 為全球第二大公司

谷歌聊天機器人bard答錯1問題，拖累Google股價狂瀉近8%，蒸發千億美元

Google對戰ChatGPT大翻車，市值慘摔，員工直批CEO倉促推出Bard目光短淺

ChatGPT帶動晶片熱銷 Nvidia財報優於預期 股價大漲創10個月來最高

如果你想學習更多有關區塊鏈和金融的資訊，可以進入 BTCC 學院 及 資訊 頁面進行了解。

?BTCC 註冊優惠活動

註冊後即可獲得 10 USDT 贈金，再加入官方 LINE 參加活動可獲得額外 10 USDT 贈金。新用戶註冊儲值&交易限定福利正在舉行，贈金最高 10,055 USDT！註冊後在活動中心參與。趕快開始註冊吧！

更多優惠內容：關注 BTCC 活動中心

關於 BTCC

• 安全性高，已獲得美國、歐洲、加拿大等地監管牌照
• 無資金費率
• 1到150倍靈活槓桿
• 交易費低至 0.03%
• 行業領先的市場流動性，交易深度大
• 提供通證化代幣（貴金屬、美股、台股）
• 24 小時線上真人客服
• 每月提供大量福利活動