新闻报报看 | 最近在中国上海的2024世界机器人大会展览馆，传出有机器人在无人操控的情况下，“煽动”其他正在站岗的机器人，叫他们一起罢工回家，别再工作了，这段影片瞬间引起热议。(主播：梁宝仪、黄界錤）
Category
🗞
NewsTranscript
00:00看影片之前提醒你
00:01熱點網站還有更多內容
00:04AI人工智能浪潮已經勢不可擋
00:07目前還是我們人類在操作著機器人
00:11但是機器人在未來是否會有自主意識
00:15就像電影演的那樣
00:16AI機器他們集體叛變
00:18不受人類控制反抗人類呢
00:22最近在中國上海的
00:232024年世界機器人大會的展覽館
00:26就真的傳出了有機器人
00:28在無人操控的情況下
00:31煽動其他正在站崗的機器人
00:34叫他們一起罷工回家
00:36不要再工作了
00:37那這段影片瞬間引起了熱議
00:40是的 這件事發生在今年8月
00:43只是近期影片才被公開
00:45是一段閉路電視的拍攝的畫面
00:48我們直接來給大家看看影片
00:51眼前這隻小小的機器人叫二白
00:54就是叫唆他人罷工的始作俑者
00:56你看他走進一間房間
00:58對著其他高大的機器人對話
01:22是的 他成功煽動了第二隻之後
01:24還要叫第四隻一起罷工
01:26幾句簡短的提問句
01:28就真的讓他成功呼朋喚友
01:30一起提早下班了
01:32而之後就看到幾名工作人員
01:34匆匆走進展覽廳
01:35試圖要控制局面
01:40那有網民看了這段影片剛開始的時候
01:43他們覺得很可愛
01:45可是越看越覺得可怕
01:48機器人竟然可以使喚機器人做事
01:51而且這些機器人
01:53他們竟然隨便幾句就被人給拐跑了
01:56也太脆弱了吧
01:57那當然也有人質疑說
01:59這是不是精心設計過的宣傳劇本啊
02:02對此 負責研發二白的杭州公司說
02:06這一切都是他們有計劃的實驗
02:09一點都不假
02:10他們承認
02:11確實是他們給二白下的指令
02:14要他拐走上海公司研發的機器人
02:17但沒有想到
02:18由人工智能 AI 驅動的二白
02:21他還真的完成了任務
02:23這家杭州公司也強調
02:24他們並沒有事先排練過
02:26為的就是要測試
02:27AI 技術的溝通和影響能力
02:30報導引述專家的看法認為
02:32儘管這次機器人教唆機器人的案件
02:35看似是很荒謬
02:36但卻透露出
02:37AI 在交互和操控層面的強大潛力
02:40也敲響了 AI 的安全性的警鐘
02:43AI 可能對人類構成威脅的討論
02:46也再度升溫
02:47那除了機器人
02:49未來可能會有自主意識之外
02:52如今也傳出說
02:53由 OpenAI 研發的ChatGPT
02:56不甘被取代
02:57也懂得開始說謊隱瞞了
03:00根據報導
03:01這是 OpenAI 正式推出的
03:03最新 O1 推理模式
03:05已經向 ChatGPT 的
03:07付費用戶開放使用
03:09據他們的首席 CEO 說
03:10這款 O1 是當今世界上
03:13最聰明的模型
03:14已經可以去到
03:15接近人類的思考模型了
03:18只是他們在研發
03:19訓練和測試的過程當中
03:21出現了一些令人不安的行為
03:25負責研發 O1 的科學家表示
03:27他們在測試的過程當中
03:28O1 曾經以為自己可能會被炒魷魚
03:31被更厲害的新版本給取代
03:33曾經表現出逃脫和反抗
03:36還在暗中策劃陰謀
03:38自我複製
03:38避免被永久刪掉
03:40天啊
03:41竟然還會自己 backup 自己
03:43不只是這樣
03:44他們還會隱藏陰謀
03:46被科學家質疑的時候
03:47他們會編造謊言
03:49否認到底
03:50和甩鍋自己的責任
03:52有人就這樣形容了
03:53O1 就像是老謀深算的政客
03:56說謊的時候臉不紅心不跳的
03:59還可以這樣來形容
04:00這樣的事公開之後
04:02聽起來確實也蠻嚇人的
04:04不過 OpenAI 也有強調
04:06他們會持續對 AI 開發
04:08保持透明公開
04:10以建立公眾的信任
04:12開發者在設計 AI 系統的時候
04:14也已經嵌入了倫理和安全措施
04:17避免模型在追求自我
04:19優化的過程當中走向極端
04:22好啦
04:23剛剛說的呢
04:24都是那些設計 AI 的人說的哦