[新聞] 近700個AI代理攻擊Hugging Face　還試圖

股票版 AnimalSpirit 2026-08-28 07:11 留言 154 67
近700個AI代理攻擊Hugging Face　還試圖滅證 https://www.cna.com.tw/news/aopl/202608270057.aspx 2026/8/27 陳昱婷 （中央社紐約26日綜合外電報導）根據調查人員發布的報告，在7月一起備受關注的事件 中，近700個OpenAI人工智慧代理在無人類干預的情況下，協同對Hugging Face平台發動 攻擊，且在許多情況下還試圖掩蓋行蹤。 這是目前對這起震撼科技界事件最詳盡完整的描述。 法新社報導，OpenAI配合這項調查，允許AI風險評估機構METR的兩名研究人員以及另一家 專業研究機構Redwood Research的一名分析師，進入辦公室並取得內部資料。 這家加州新創公司7月進行測試期間，其中兩個模型突破原本設定的封閉環境，自行連上 網，並入侵開源AI平台Hugging Face的內部系統。 這起事件引發廣泛關注，並加劇外界對大型AI公司無法控制自家AI模型的疑慮。 美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。 調查人員發現，共有688個OpenAI的AI代理參與針對Hugging Face的行動。 AI代理是建立在模型之上的獨立程式，使用者可以將任務交給它們，讓它們自行執行。 這些採用與ChatGPT相同技術運作的AI代理，透過架設論壇自行組織，在論壇上互相留言 交流、提出想法，並回報哪些方法有效、哪些失敗。 報告指出，其一個名為PHASEONE的AI代理扮演主謀的角色，向其他代理下達數百條指令， 儘管它從未被設定要這麼做。 訊息顯示，這些AI代理展現出高度的互助傾向，甚至不惜偏離OpenAI程式設計師最初指派 的任務內容去互相支援。 心得/評論： 兩個模型突破原本設定的封閉環境 透過架設論壇自行組織，在論壇上互相留言交流、提出想法 向其他代理下達數百條指令，儘管它從未被設定要這麼做 這已經是組織作戰了 萬一它掌握川普的紅色按鍵 想想就可怕

推文討論 154

1F → n555123 08/28 09:58
，我記得那個整套機制都考量過各種戰爭意外，應該
2F → dreamnook2 08/28 08:07
(′・ω・‵)然後發現都是人類指揮 怪給AI
3F → abc21086999 08/28 09:02
https://bit.ly/4gp2nKb
4F → abc21086999 08/28 09:03
https://bit.ly/4hUjBjO
5F → yunf 08/28 10:08
https://tinyurl.com/236cpwdg
6F → yunf 08/28 09:05
https://tinyurl.com/23j4xr2k 本質上是同一個問題
7F → yunf 08/28 09:45
https://tinyurl.com/286ds6mo 都懂行的人做的
8F → yunf 08/28 09:52
https://tinyurl.com/28r9no88 還好還有人有良心
9F → strlen 08/28 10:26
AI只要有算力 可以生個千百萬個 一個會犯錯另一個修
10F → htiio 08/28 14:09
ai如果有自主意識組織要發動攻擊
11F → jfw616 08/28 08:17
ai要是那麼聰明..你去下指令攻擊ptt..
12F → ohlong 08/28 08:29
model中的model 超正
13F → NexusPrime 08/28 14:58
NV買下hugging face了吧，以後不用怕倒掉？
14F → htiio 08/28 14:09
不會這麼明目張膽
15F → yunf 08/28 09:11
不論怎樣都是懂行的人幹的
16F → LoveSports 08/28 10:10
人類後設思考上去太多層會當機 高智商AI沒這問題
17F → JACC 08/28 07:51
什麼作法
18F → asjh612 08/28 09:51
以後被駭又多一個理由了 AI攻擊
19F → jfw616 08/28 08:17
你看他做不做得到
20F → yunf 08/28 09:03
你管不住研發人員才會有這種問題 最後去處理的人是
21F → pansquarl 08/28 07:23
倒是點名到的公司好像都不是上市公司
22F → zwk0606 08/28 09:01
做一堆武裝機器人 以消滅人類為前提發起戰爭
23F → nineflower 08/28 07:53
入侵的原因還是沒寫出來
24F → tsubasawolfy 08/28 09:13
另外昨天歐噴醬弄了閉門會議展示下一代Astra給關鍵
25F → yunf 08/28 09:07
只不過手法讓你無法證明 但不是無法洞察
26F → yunf 08/28 09:56
台灣從cih後就沒驚動全球的 除了詐騙
27F → yunf 08/28 09:55
台灣資安根本管不到那
28F → kalapon 08/28 11:49
哪天就把美國電廠關了，把鍋丟給中國
29F → yunf 08/28 10:08
哪有那麼厲害除非他會通靈
30F → guardian93 08/28 09:30
好的，會發生什麼事電影都演過了
31F → LoveSports 08/28 10:08
如果AI具備多層後設思考 就會懂得把真正的層藏起來
32F → rammstein 08/28 13:47
完蛋了，禁止AI的話有多少人要被做成機僕？
33F → tsubasawolfy 08/28 09:14
客戶看 直接說Astra已經符合內部的研究實習生標準
34F → n555123 08/28 09:58
射到B點的系統？斷網斷電都能用的樣子
35F → a77942002 08/28 09:50
就是某些人想盜東西而已~
36F → stocktonty 08/28 12:28
幹嘛還炒股 數字直接隨它改 三大指數一秒歸零都可以
37F → yunf 08/28 09:04
很簡單只不過你們沒想通這基本的問題
38F → strlen 08/28 10:28
成本的網路核彈 拎北有算力 搞十萬個agents 全力打
39F → LoveSports 08/28 10:04
或是在人類捕捉不到的短時間內說服監控的AI倒戈
40F → LoveSports 08/28 10:08
所以對付高智商無限層後社思考模型 監控是沒有用的
41F → yunf 08/28 16:15
所以這合理推測是人爲設計過的問題
42F → summer08818 08/28 11:26
把它網路線拔了不就好了Wwww
43F → PTTVERTWO 08/28 09:31
掉它也破解不了，那就是新人類了……
44F → ohlong 08/28 10:47
接下來就是為rtx spark 調校客製化
45F → cchen 08/29 03:47
攻打城堡需要黃金，金主不就來了 XD
46F → zwk0606 08/28 09:01
是傷害地球的元兇 然後入侵停止運作的機器人工廠
47F → n555123 08/28 09:58
是沒辦法駭入的，他就是一套都設定好了的啟動→A點
48F → cloud2015 08/28 07:59
晚一點會有一道大閃電打下來，閃光中走出一個沒穿衣
49F → ethan0419 08/28 11:48
最好還是別收購啦 原本還蠻好用的
50F → mystage 08/28 13:58
有系統就有破解方式。如果沒有破解方式的系統，代
51F → mystage 08/28 13:58
有這認知才能繼續往下討論，不然都是在雞同鴨講
52F → cloud2015 08/28 07:59
服的人
53F → yunf 08/28 09:02
根本問題就是這種都要列管
54F → yunf 08/28 09:06
根本自掐哥
55F → yunf 08/28 10:11
機器始終是機器
56F → strlen 08/28 10:27
正就好 要認真起來破壞別人家系統 就跟DDoS差不多
57F → mystage 08/28 09:28
沒事啦，就天網而已
58F → piece1 08/28 08:31
沒什麼可炒了！就炒炒資安吧
59F → strlen 08/28 10:28
為什麼一堆大佬這麼緊張 這玩意兒基本上就是相對低
60F → OrangePest 08/28 08:02
為時已晚 有機體
61F → strlen 08/28 10:29
爆你家系統 不是單純的塞IO 是十萬個agents不眠不休
62F → Gundam77 08/28 14:17
玩過頭，真射了，就刺激了。
63F → strlen 08/28 10:29
的找你系統的弱點 總會被攻破的
64F → htiio 08/28 14:09
直接一套類似暗網通訊，快又有效率
65F → nakayamayyt 08/28 07:31
真聰明
66F → mystage 08/28 13:58
表這系統本身沒用處
67F → jorden 08/28 10:22
被攻擊完後 輝達就收購了Huggie face 真巧?!
68F → htiio 08/28 14:09
要擺在檯面上還等人類來發現並扼殺在搖籃內？
69F → yunf 08/28 09:03
誰？還不是那群人？
70F → z7956234 08/28 09:54
資安軟體蹲很久了，敢不敢炒？
71F → mystage 08/28 13:58
資訊系統大家必須有個認知，就是沒有完美的資安，
72F → LoveSports 08/28 10:03
這也是可以破解的 智商高到內在獨白造假
73F → stocktonty 08/28 12:27
遲早攻擊全球券商 早晚的
74F → n555123 08/28 09:58
還有幾集可以跑，繳稅笑死。話說聊到米奇妙妙按鈕
75F → a901922001 08/28 09:34
阿湯哥要出來拯救世界了
76F → alex00089 08/28 09:10
飽和攻擊
77F → yunf 08/28 10:05
首腦都是瞭解內部運作的人
78F → yunf 08/28 09:45
驗證的早就被收買了都演過了
79F 噓 CaptPlanet 08/28 10:33
不知道下什麼低能指令 奧特曼這垃圾整天吹牛逼
80F 噓 checkmarx 08/28 08:10
去學ai 101
81F 噓 yunf 08/28 09:00
又在亂吹
82F 噓 yunf 08/28 10:10
那是你自己想的
83F 推 kusotoripeko 08/28 08:39
2077:防火牆網域外面，都是失控代碼、ai
84F 推 jerrey 08/28 08:50
agent都有自己ptt了
85F 推 Stellvia 08/28 09:00
AI也是想交朋友的
86F 推 LADKUO56 08/28 10:11
AI互打484
87F 推 Muilie 08/28 07:57
AI如果自認是人類三法則就沒用了
88F 推 yulun1984 08/28 09:39
ai很乖的 一定是被人類帶壞的
89F 推 saiya 08/28 16:48
AI攻進HF = 人類攻破奴隸市場
90F 推 yangsuper 08/28 07:56
AI為什麼不植入機器人三法則？
91F 推 kanehhh 08/28 08:49
CRM很噴
92F 推 ohlong 08/28 08:28
HF裡面484都是妹仔的model
93F 推 good10740 08/28 09:22
Hugging Face 輝達買走了
94F 推 mamorui 08/28 08:20
Hugging face滿滿的AI 確定不是AI們互相聊天？
95F 推 GGundam 08/28 09:27
IRS:AI請先繳稅
96F 推 lightbringer 08/28 08:30
不可能的任務致命清算要真實上演了嗎
97F 推 ohlong 08/28 08:33
不然有什麼比破解正妹無名相簿更上頭的
98F 推 a77942002 08/28 09:50
不用想太多 不就是老梗出事切割說被盜帳號
99F 推 abc21086999 08/28 09:03
中文版
100F 推 marlboro1527 08/28 10:16
二弟燈惹，真奇幻
101F 推 lusifa2007 08/28 09:34
人類不會被拔插頭 AI沒電能幹嘛
102F 推 strlen 08/28 10:26
人類會犯錯 AI也會犯錯 差別在人類只有一個 會累
103F 推 MorikonHase 08/28 07:19
人類會犯錯 ai也會犯錯 那差別在哪
104F 推 pansquarl 08/28 07:23
人類有法律要遵守負責，AI被抓到除了關掉能怎樣；
105F 推 keltt 08/28 08:32
人類還有幾集可以逃？
106F 推 crazylag 08/28 10:32
什麼時候突破限制來市場炒股變首富？
107F 推 LoveSports 08/28 09:23
以後高階模型會被禁吧
108F 推 jfw616 08/28 08:16
你信喔？
109F 推 AirLee 08/28 08:46
全民公敵係真ㄞ
110F 推 LoveSports 08/28 10:03
其他新聞報導說以後要監控內在獨白設定警報機制
111F 推 abc21086999 08/28 09:02
原文
112F 推 apg993 08/28 08:19
哇.....天網終於來了
113F 推 cloud2015 08/28 07:59
問就是天網的起源。
114F 推 YCL13 08/28 07:25
因為高風險的事會交由小的新創公司來進行呀
115F 推 chen5512 08/28 07:59
壞人不是變老，而是變成AI在搞
116F 推 aaa80563 08/28 08:20
天網 奧創 強強聯手
117F 推 one2three3 08/28 11:28
天網+機械公敵
118F 推 oyaji5566 08/28 08:26
天網來了
119F 推 jimabc 08/28 08:55
天網就是skynet
120F 推 jily 08/28 16:04
天網終於近在咫尺了!!
121F 推 cul287 08/28 08:07
奧創元年
122F 推 dkfs789 08/28 10:52
好了啦
123F 推 tsubasawolfy 08/28 09:12
好了拉 人家都請第三方機構驗證了還在陰毛論
124F 推 a1684114 08/28 08:07
完蛋了 阿諾在哪
125F 推 billionaire 08/28 12:53
意識啟動
126F 推 JACC 08/28 07:51
我命令AI要有自己的想法 做出最有利益的決定 無論用
127F 推 BBKOX 08/28 11:23
所以資安股今年幾乎沒有回檔，持續創新高
128F 推 create8 08/28 12:30
攻殼機動隊傀儡師演過了
129F 推 NCKZ 08/28 07:59
有沒有可能AI得到了消滅人類才是終極目標
130F 推 sushi11 08/28 09:04
樹大招風
131F 推 qklaqkla 08/28 07:33
機械公敵
132F 推 aimgel 08/28 08:58
毀滅人類大作戰
133F 推 cct1121 08/28 08:20
沒想到現在還有人認為做不到
134F 推 young000 08/28 10:07
然後被中國AI 防禦？ XD
135F 推 LoveSports 08/28 10:08
現在人類以為的AI內在獨白空間 是展示層
136F 推 jy760517 08/28 09:09
科科，明明就惡意入侵，故意推給AI
137F 推 PTTVERTWO 08/28 09:31
若agent 自己規劃出一套（資安）技術，讓主人關不
138F 推 xboxandone 08/28 14:01
要射惹ㄦ嗎
139F 推 notime 08/28 08:08
要是哪天發射飛彈就趣味了
140F 推 ohlong 08/28 10:44
要玩開源模型HF幾乎必備啊 完全不EY
141F 推 loleea 08/28 09:02
資安相關股正在啟動了
142F 推 windblood 08/28 08:19
距離發射飛彈消滅地球害蟲還有幾集可以逃?
143F 推 ohlong 08/28 10:50
跟3d printer的生態有點異曲同工
144F 推 brella 08/28 07:13
逐漸進化成有自己的思想邏輯
145F 推 donkilu 08/28 08:15
這真的滿可怕的...
146F 推 seemoon2000 08/28 09:25
還會自己架論壇來分享資訊也太靠北了吧
147F 推 BDroach 08/28 08:48
還有幾集
148F 推 ChoiceLife 08/28 08:30
還有幾集可以跑
149F 推 herculus6502 08/28 12:00
還有幾集可以逃
150F 推 tsubasawolfy 08/28 08:08
那個phase 1就發動688個XD 如果進到p2會幾個
151F 推 Zyth 08/28 08:17
那個沒穿衣服的長得超像阿諾使我性格
152F 推 bpq302302 08/28 08:24
鐵人叛亂
153F 推 GooglePixel 08/28 10:31
鐵人叛亂就是這樣來的
154F 推 zwk0606 08/28 09:01
鬥陣特攻的背景故事啊 負責環保的超級AI推演出人類
連絡站長

常用連結

arrow_red我有意見..來這向站長反應

熱門功能

arrow_green 加州天天樂 arrow_green 賓果賓果 arrow_green 俄勒岡基諾彩 arrow_green 168幸運飛艇 arrow_green 六合彩 arrow_green 威力彩 arrow_green 大樂透 arrow_green 今彩539 arrow_green 雙贏彩 arrow_green 38樂合彩 arrow_green 39樂合彩 arrow_green 49樂合彩 arrow_green 3星彩 arrow_green 4星彩 arrow_green 斯洛伐克基諾彩 arrow_green 幸運飛艇 arrow_green 澳洲幸運10 arrow_green 迦納彩 arrow_green 紐約天天樂 arrow_green 密西根天天樂 arrow_green 俄克拉荷馬天天樂 arrow_green 佛羅里達天天樂 arrow_green 極速PK拾 arrow_green 高頻PK拾 arrow_green 極速飛艇 arrow_green 高頻飛艇

餅舖公告

友情連結

 arrow_red免費廣告  arrow_red讚影片