然而，另一份名為《網路犯罪者對 GPT 仍無共識》報告發現，儘管人工智慧具有潛力，但有些網路犯罪者並不會積極採用像 ChatGPT 這樣的大型語言模型 (LLM)，甚至對使用人工智慧進行攻擊持保留和懷疑的態度。人工智慧的黑暗面
只要利用簡單的電子商務範本和如 GPT-4 的大型語言模型工具，Sophos X-Ops 就能建立一個功能完整的網站，包括由人工智慧產生的圖片、聲音和產品描述，以及假的 Facebook 登入和結帳頁面，可用來竊取使用者的登入憑證和信用卡資訊。建立這種網站所需的技術門檻非常低，而且使用同一工具，Sophos X-Ops 能夠在幾分鐘內一鍵建立數百個類似的網站。
Sophos 資深資料科學家 Ben Gelman 表示：「犯罪分子改用新技術來進行自動化是自然且可預料之事。最初導入垃圾郵件，就是詐騙技術的一個重要里程碑，因為它改變了攻擊的規模和方式。新的人工智慧正處於相同的位置；如果存在能夠產生完整自動化威脅的 AI 技術，人們最終就會使用它。我們已經看到生成式人工智慧元素被整合到經典的詐騙中，例如使用 AI 生成的文字或照片來誘騙受害者。
「然而，我們進行這項研究的部分原因是為了超前犯罪分子一步。透過建立一個比犯罪分子現有工具更先進的大規模詐騙網站生成系統，我們有機會在威脅蔓延之前先進行分析和準備。」
網路犯罪者對於 GPT 仍無共識
為了研究攻擊者對人工智慧的態度，Sophos X-Ops 調查了四個知名的暗網論壇，檢視與大型語言模型相關的討論。儘管網路犯罪者對於人工智慧的使用似乎還處於早期階段，但暗網上的威脅行為者開始討論它在社交工程方面的潛力。Sophos X-Ops 已經看到在以交友為基礎的加密貨幣詐騙中使用人工智慧的案例。
Sophos X-Ops 研究主管 Christopher Budd表示：「自 ChatGPT 釋出以來，網路犯罪分子是否會濫用人工智慧和大型語言模型引人矚目，但我們的研究發現，到目前為止，威脅行為者對它的懷疑勝過熱情。在我們調查的四個暗網論壇中的兩個，我們只發現了 100 篇關於人工智慧的貼文。相比之下，在同一時間，則有 1,000 篇和加密貨幣有關的貼文。
「我們確實看到一些網路犯罪分子試圖使用大型語言模型建立惡意軟體或攻擊工具，但成果都很不理想，常常遭到其他用戶的懷疑。在某個案例中，一名威脅行為者急於展示 ChatGPT 的潛力，還無意中透露了自己的真實身分。我們甚至發現了許多人工智慧對社會可能會產生負面影響和道德問題的『反省文』。換句話說，至少目前看來，網路犯罪分子對大型語言模型的看法與我們其他人一樣，仍無共識。」
若想了解更多由人工智慧生成的詐騙網站以及威脅行為者對大型語言模型的態度，請閱讀 Sophos.com 上的《AI 的黑暗面：由生成式 AI 支援的大型詐騙活動》和《網路犯罪者對 GPT 仍無共識》。
- 新聞稿有效日期，至2023/12/30 為止
■ 我在中國工作的日子（十四）阿里巴巴敢給股票 - 2023/07/02
■ 我在中國工作的日子（十三）上億會員怎麼管理 - 2023/06/25
■ 我在中國工作的日子（十二）最好的公司支付寶 - 2023/06/18
■ 我在中國工作的日子（十一）兩個女人一個男人 - 2023/06/11
■ 我在中國工作的日子（十）千團大戰影音帶貨 - 2023/06/04
■ 我在中國工作的日子（九）電視購物轉型電商 - 2023/05/28
■ 我在中國工作的日子（八）那些從台灣來的人 - 2023/05/21
■ 我在中國工作的日子（七）嘉丰資本擦身而過 - 2023/05/14
■ 我在中國工作的日子（六）跟阿福有關的人們 - 2023/05/07
Information
上一篇：中國新高教集團公佈2023年全年業績
下一篇：Orient Star推出M34 F7 Skeleton半鏤空機械腕錶
