據司美國法部稱，一款人工智慧工具在 X 上創建了一個由近 1,000 個虛假帳戶組成的網路。

美國官員及其盟友已經識別並摧毀了一個由人工智慧驅動的俄羅斯機器人/假帳戶農場，該農場由近 1,000 個帳戶組成，該農場在 X 上散佈虛假訊息和親俄情緒。據稱這些帳戶由俄羅斯國營電視台管理，並指它的開發是在 2022 年由其副主編領導的，並得到了俄羅斯聯邦安全局（克格勃的主要繼任者）的一名官員的批准和資助。

在聯邦調查局、荷蘭情報官員和加拿大網路安全當局發布的網路安全諮詢中，他們特別提到了一種名為。「Meliorator」的工具，該工具可以創建「集體出現的真實社交媒體角色」，生成文本訊息和圖像並反映來自其他機器人角色的虛假訊息。當局已經查封了該行動用來創建電子郵件地址的兩個域名，這些地址是在 X（以前稱為 Twitter）上註冊帳戶所必需的，X 是機器人的所在地。

然而，司法部仍在尋找俄羅斯行為者用來傳播虛假訊息的所有 968 個帳號。 X 已與當局分享了迄今為止所有已識別帳戶的信息，並已暫停這些帳戶。正如《華盛頓郵報》所指出的，這些機器人繞過了X 的保護措施，因為它們可以從電子郵件帳戶中複製貼上OTP 來登入。 》說。同時，支付這些費用違反了美國聯邦反洗錢法。

該工具創建的許多個人資料都透過使用聽起來像美國人的名字並將其在 X 上的位置設置為美國的各個地方來冒充美國人。司法部提供的範例使用灰色背景的頭像作為個人資料照片，這很好地表明它們是使用人工智慧創建的。一個名為里卡多·阿博特（Ricardo Abbott）的帳號自稱來自明尼阿波利斯，發布了一段俄羅斯總統弗拉基米爾·普丁（Vladimir Putin）為俄羅斯在烏克蘭的行動辯護的影片。另一個名為蘇·威廉森的帳戶發布了普丁的一段視頻，稱烏克蘭戰爭與領土衝突無關，而是「新世界秩序所依據的原則」的問題。這些貼文隨後被網路中的其他機器人按讚並轉發。

值得注意的是，雖然這個特定的機器人農場僅限於 X，但根據當局對 Meliorator 軟體的分析，背後的人計劃擴展到其他平台。傳播政治假訊息的外國行為者多年來一直利用社群媒體傳播假新聞。但現在他們已經將人工智慧加入他們的武器庫中。早在 5 月份，OpenAI就報告稱，它搗毀了五個來自俄羅斯、中國、以色列和伊朗的秘密影響行動，這些行動利用其模型影響政治結果。

FBI 局長克里斯托弗·雷(Christopher Wray) 在一份聲明中表示：「俄羅斯打算利用這個機器人農場傳播人工智慧產生的外國虛假訊息，在人工智慧的幫助下擴大其工作範圍，破壞我們在烏克蘭的合作夥伴，並影響有利於俄羅斯政府的地緣政治敘事。 「聯邦調查局致力於與我們的合作夥伴合作，部署聯合、有序的行動，從戰略上瓦解我們最危險的對手以及他們利用尖端技術達到邪惡目的的行為。．