根據 OpenAI 週三發布的一份報告，一個源自俄羅斯的網路利用 ChatGPT 宣傳一個自稱為學術機構的組織。

OpenAI 表示，它已封鎖了一群帳戶，這些帳戶的操作者使用俄語提示生成社群媒體貼文和評論，內容大多為英文。他們還指示 ChatGPT 隱藏內容源自俄羅斯的跡象。

該公司寫道：「儘管這場行動似乎只接觸到相對較少的受眾，但其精心策劃的結構使其有別於我們自烏克蘭戰爭爆發以來所瓦解的其他與俄羅斯相關的影響力行動。」

由於 ChatGPT 在俄羅斯無法使用，OpenAI 表示該團體使用虛擬私人網路 (VPN) 來偽裝其位置並存取該服務。

該團體利用 ChatGPT 透過看似官方的個人資料和冒充普通用戶的帳戶，推廣自稱是以色列專家團體的「國際柏克學院」(International Burke Institute)。OpenAI 發現，該學院網站上審查的 36 篇文章中有 34 篇是抄襲的，有些還被歸功於並未撰寫這些文章的學者。

OpenAI 寫道：「其中一些文章已有多年的歷史；另一些則歸因於錯誤的作者。」「例如，一篇關於中巴經濟走廊的文章似乎是從劍橋大學出版社的原作抄襲而來，但卻錯誤地歸因於諾丁漢大學的一位教授，而他的專長是南亞政治。」

類似的政治影響力行動也曾使用生成式人工智慧。

2024 年，OpenAI 發現了另一個與俄羅斯相關的行動，稱為 Doppelganger。該網路使用 ChatGPT 創建文章、社群媒體貼文和評論，內容旨在讚揚俄羅斯並攻擊烏克蘭、北約和美國。

與俄羅斯相關的團體也曾將 ChatGPT 用於網路操作。OpenAI 表示，一個與俄羅斯軍事情報有關的團體 Forest Blizzard，利用這個聊天機器人研究目標、編寫腳本並支援網路釣魚攻擊。

儘管該團體可能使用了俄語提示，但 OpenAI 並未將 IBI 行動歸因於俄羅斯政府。

根據 OpenAI 的說法，一些以色列人可能曾在會議上或透過文章投稿代表該學院。然而，他們與該行動的關係仍不清楚。

OpenAI 寫道：「我們無法確定這些個人、IBI 和俄羅斯營運者之間的關係。」