OpenAI Sora開放使用，背後存在哪些風險？如何識別AI影片詐騙？

OpenAI 去年因 ChatGPT 的流行而備受追捧，該公司在 2024 年 2 月 16 日推出了新的 AI 影片生成模型 Sora，Sora 的工作原理與 OpenAI 的圖像生成人工智慧工具 DALL-E 類似，用戶只需輸入文字提示，就可以生成一個高度逼真的影片。

在媒體為這個新 AI 模型感到興奮的同時，也有不少人對該技術產生擔憂，因為 Sora 很有可能成為一種快速且廉價的線上虛假資訊製造方式，使人們更難辨別網路上的真實情況。

本篇文章將詳細討論 Sora OpenAI 背後存在的風險，以及在 AI 發展如此快速的今天，我們應該如何識別 AI 造假和詐騙。

如果你對該內容感興趣，可以透過 BTCC 學院查看更多內容。

＼開戶送 10 USDT！／

OpenAI Sora 是什麼？有多厲害？

AI 影片生成並不是什麼新鮮事，然而，隨著 OpenAI Sora 文字轉影片的到來，製作影片變得前所未有的容易。

Sora 是 OpenAI 於 2024 年 2 月 15 日推出的新的生成式人工智慧模型，其工作原理與 OpenAI 的圖像生成人工智慧工具 DALL-E 類似。用戶只需輸入文字提示，如所需場景、人物、影片風格等，Sora 就可以返回一個高清且逼真的影片。此外，據 OpenAI 所述，Sora 還可以產生受靜止影像啟發的影片剪輯，並擴展現有影片或填充缺少的畫面。

這大大降低了使用的門檻。此外，儘管目前僅有的幾個示例影片中存在一些細微的問題，但 Sora 的真實感讓人驚訝，該 AI 生成的影片具有一定程度的準確性和真實性。

隨著 Sora 開放試用並推廣，普通人都將能夠使用一個簡單易用的工具來完成整個影片的剪輯。結合語音深度偽造人工智慧 (AI) 軟體的現有功能，造假的 AI 視訊出現的可能性比以往任何時候都更加高。

＼開戶送 10 USDT！／

Sora 背後存在的風險

那麼，Sora 爆火後會出現哪些風險呢？

1.Sora 可能會傳播虛假的信息

雖然 Sora 的到來讓人工智慧愛好者興奮不已，但隨著全球重大政治選舉的臨近，新技術帶來了嚴重的錯誤訊息擔憂。

一月下旬，人工智慧生成的流行歌手泰勒絲 (Taylor Swift) 的虛假色情圖片在社交媒體上瘋傳，獲得了數百萬次觀看。上個月，一個冒充總統喬拜登聲音的虛假機器人電話阻止了人們在新罕布夏州初選中投票。

華盛頓大學專門研究人工智慧的教授奧倫·埃齊奧尼 (Oren Etzioni) 表示：「我非常害怕這種事情會影響一場勢均力敵的選舉。」他也是 True Media 的創始人，該非營利組織致力於識別政治競選中的網路虛假資訊。

美國政府網路安全和基礎設施安全局 (CISA) 技術諮詢委員會成員 Rachel Tobac 也表示，「我最擔心的是這些內容如何被用來欺騙、操縱、網路釣魚和迷惑公眾」。

儘管 OpenAI 承認該工具的廣泛使用存在風險，並表示在開放前將採取一些重要的安全措施，但 Tobac 女士表示她「仍然感到擔憂」。

她表示，在選舉的背景下，這樣的工具可能會被濫用，以顯示「惡劣天氣下難以想像的長隊」，以說服人們這不值得出去投票。

OpenAI 表示，其團隊正在限制 Sora 的潛在有害使用，例如展示極端暴力、名人肖像或仇恨圖像。

但 Tobac 擔心對手可能會找到規避規則的方法。

「以我上面的例子為例，提示該人工智慧工具播放『一段人們在暴雨中在建築物外等待的影片』並不違反這些政策——危險在於它的使用方式」，她解釋道。

2.Sora 可能會被用於投資詐騙

除了處於政治目的的虛假影片外，這項新技術還很可能被用於投資詐騙。因為它能允許惡意行為者創建冒充真實人和公司的深度偽造品，以推廣欺詐性投資項目。

例如，詐騙者可以用 Sora 來獲得虛假名人的認可，這種合成視訊和音訊非常有說服力。例如，在一個影片中可能出現巴菲特說某檔投資產品值得投資，從而導致不知真相的投資者將資金投入該虛假的產品中。

此外，Sora 的文字轉影片功能可以以低成本自動創建大量詐騙影片。這些可用於在社群媒體平台上推廣加密貨幣拉高轉儲計劃，而這些計劃在防止詐騙方面已經做得很少。

不良行為者可以利用 Sora 等文字轉影片人工智慧的力量，以低廉的成本創建可操縱的內容。然後可以對其進行最佳化，以在社交平台上病毒式傳播，並使加密貨幣等投資詐騙在不加控制的情況下迅速擴大規模。

3.Sora 加劇版權問題的矛盾

自 ChatGPT 等 AI 工具流行後，版權問題成為了討論的重點，因為這些工具的運行需要大量資料的支撐。

目前，OpenAI 拒絕透露系統學習了多少影片或這些影片來自何處，只是表示培訓包括公開影片和版權所有者許可的影片。

4.Sora 可能讓相關工作者失業

DALL-E、Midjourney 和其他靜態影像產生器在過去幾年中進步如此之快，以至於它們現在生成的影像幾乎與照片沒有區別。這使得識別網路上的虛假資訊變得更加困難，也使得不少相關工作者更難找到工作。因為該工具的功能與內容創作人員的技能密切相關，包括電影製作、媒體等。

密西根州電影概念藝術家里德·索森 (Reid Southen) 表示，「在人們正在中途失業。」

＼開戶送 10 USDT！／

如何識別 Sora 等工具生成的虛假 AI 影片？

在 Sora 等 AI 影片生成模型逐漸進入我們的生活後，我們應該如何識別影片的真偽，避開詐騙呢？

1.從細節判斷

儘管 AI 生成的影片看起來很真實，但它們並不總是完美的，並且可能包含奇怪和不合邏輯的圖像。

例如，Sora 最近生成了一段有人吃餅乾的視頻，但餅乾從未變小。

因此，仔細查看影片中的細節，您可能會發現許多異常，這些異常可以讓我們識別大多數的 AI 影片。

2.利用工具協助判斷

隨著 AI 技術的不斷發展，不少公司也研發出了能檢測內容真偽的工具，這些工具可以幫助我們識別 AI 生成的影片。例如：

1. Clarity：這是一個打擊深度造假的AI 檢測平台。利用專利演算法，Clarity 能精確偵測影片、影像和音訊中的竄改，並透過加密浮水印確保內容真實。
2. Adobe Photoshop：該平台最近新推出了一個內容真實性工具，能夠幫助用戶了解影像的編輯歷史和來源，從而判斷其真實性。
3. Deepware Scanner：該平台可以使用專門的算法來識別由 AI 生成的圖像和影片。

＼開戶送 10 USDT！／

OpenAI 如何提高 Sora 安全性？

OpenAI 表示，他們計劃在將 Sora 整合到 OpenAI 產品裡之前實施幾項重要的安全措施。這需要與紅隊成員密切合作，他們是錯誤訊息、仇恨內容和偏見等領域的專家。他們將嚴格測試模型以發現潛在的弱點。

OpenAI 還將創建識別誤導性內容的工具，例如能夠識別 Sora 創建的影片的偵測分類器。

此外，OpenAI 將調整為 DALL·E 3 等與 Sora 相關的產品開發的現有安全程序。例如，他們的文字分類器將篩選並拒絕違反使用政策的輸入請求，例如包含極端暴力、性內容或仇恨圖像的輸入請求。該公司建立了強大的圖像分類器來審查生成影片的每一幀，以確保在用戶訪問之前遵守使用政策。

在將 OpenAI Sora 開放使用後，OpenAI 的確採取了一些相關措施來減少不良行為的發生。

例如，Sora 平台將禁止創建、上傳具毀滅性後果的濫用內容，例如兒童性虐待材料和色情換臉影片（deepfakes）。此外，Sora 創作的所有電影都有明顯的浮水印和 C2PA 資訊。使用者必須遵守內容限制，禁止包含兒童、露骨內容、暴力內容或受版權保護的內容。違反準則可能會導致帳號暫停使用。

不過，OpenAI 也坦言，「儘管進行了廣泛的研究和測試，我們仍無法預測人們使用我們的技術的所有有益方式，也無法預測人們濫用我們的技術的所有方式。 這就是為什麼我們相信，隨著時間的推移，從現實世界的使用中學習是創建和發布越來越安全的人工智慧系統的關鍵組成部分」。

＼開戶送 10 USDT！／

Sora 可以用了嗎？

如果您想親自嘗試 Sora，您今天可以在其官網建立 OpenAI 帳戶。

OpenAI 於 12 月 9 日透過官方媒體表示，Sora 已開放使用，現有 ChatGPT Plus、Pro 付費用戶可直接使用 Sora，不會被額外收費。

具體使用教學請參考：OpenAI Sora教學：Sora 正式上線！如何使用它？

＼開戶送 10 USDT！／

常見問題

OpenAI Sora 是什麼？

Sora 是 OpenAI 於 2024 年 2 月 15 日推出的新的生成式人工智慧模型，其工作原理與 OpenAI 的圖像生成人工智慧工具 DALL-E 類似。用戶只需輸入文字提示，如所需場景、人物、影片風格等，Sora 就可以返回一個高清且逼真的影片。

Sora 安全嗎？背後存在的風險

Sora 可能會傳播虛假的信息、可能會被用於投資詐騙、加劇版權問題的矛盾，並可能讓相關工作者失業。

Sora 開放使用了嗎？

OpenAI 於 12 月 9 日透過官方媒體表示，Sora 已開放使用，現有 ChatGPT Plus、Pro 付費用戶可直接使用 Sora，不會被額外收費。

＼開戶送 10 USDT！／

以上就是關於 Sora 風險及如何識別的所有分析了，您可能感興趣：

• Sora 概念股有哪些？台灣如何投資 Sora 股票？
• Neuralink是什麼？首位Neuralink晶片植入者已可用意念控制滑鼠
• AI幣有哪些？值得投資嗎？盤點2024年6大AI加密貨幣
• ChatGPT-5將於2024年發布，有哪些新功能？GPT-5能做什麼？
• ChatGPT的現狀和未來前景如何？2023年關於AI發展的7個預測
• ChatGPT有多火？工程師也要失業？ChatGPT通過三級工程師面試，年薪達549萬台幣
• ChatGPT背後竟藏血汗工廠！時薪不到2美元，員工遭受持久心理創傷
• 香港大學禁用ChatGPT等AI工具 違者視為抄襲 台大會跟進嗎？
• 微軟押寶ChatGPT挑戰Google，誰能成為搜索引擎的遊戲規則改變者？
• ChatGPT是否需要監管？AI工具危險嗎？傳大陸政府已封殺ChatGPT
• ChatGPT出現安全漏洞，用戶個資外洩；OpenAI緊急下線處理
• 用ChatGPT寫漏洞報告？15名用戶被漏洞賞金平台Immunefi永久封禁
• 孫宇晨將開發基於 Tron 和 ChatGPT 的去中心化支付系統
• Google對戰ChatGPT大翻車，市值慘摔，員工直批CEO倉促推出Bard目光短淺
• 比爾蓋茨：AI的時代到來，ChatGPT將改變世界
• ChatGPT帶動AI再度火熱，相關概念幣最高漲幅達380.2%
• ChatGPT帶動晶片熱銷 Nvidia財報優於預期 股價大漲創10個月來最高
• ChatGPT掀起新一波AI熱潮！有哪些「區塊鏈+AI」項目值得關注？
• 生成式AI火熱！創意攻上千元寫新天價 超越台積電 登台股六千金
• ChatGPT掀起投資潮，AI 概念股大漲！2023人工智慧AI概念股有哪些推薦
• ChatGPT引爆AI板塊！近期爆火的AGIX幣是什麼？如何買AGIX賺錢？
• ChatGPT大火ETF沾光 11檔微軟相關ETF大噴發！最高竟漲3成
• ChatGPT同名山寨幣飆漲，ChatGPT：與OpenAI無聯繫，炒幣需注意風險
• ChatGPT加持丨微軟股票大漲 市值重返2兆美元 為全球第二大公司
• 謝金河：ChatGPT來襲，搜索引擎戰爭已開始，這3檔股價不寂寞
• AI機器人ChatGPT正當紅，誰會是最後贏家？如何投資最賺？
• 微軟整合OpenAI ChatGPT，推AI搜索引擎新Bing！如何操作和使用？
• 迎戰 ChatGPT，Google 將推 AI 聊天機器人 Bard
• Google聊天機器人Bard是什麼？功能有哪些？Bard申請使用教學
• 比ChatGPT還牛？Notion AI機器人怎麼用？申請＋使用教學

……

想了解更多有關區塊鏈和金融的資訊，可以進入 BTCC 學院 及 資訊 頁面進行查看。

👇BTCC 註冊優惠活動

註冊後即可獲得 10 USDT 贈金，再加入官方 LINE 參加活動可獲得額外 10 USDT 贈金。新用戶註冊後 7 天內入金，贈金最高 10,055 USDT！趕快開始註冊吧！

更多優惠內容：關注 BTCC 活動中心

關於 BTCC

• 安全性高，已獲得美國、歐洲、加拿大等地監管牌照
• 無資金費率
• 300 種虛擬貨幣合約
• 10到250倍靈活槓桿
• 交易費低至 0.01%
• 行業領先的市場流動性，交易深度大
• 提供通證化代幣（貴金屬、美股、台股）
• 24 小時線上真人客服
• 每月提供大量福利活動