newsum

1: 名無し募集中。。。 2025/06/04(水) 08:39:34.01 0
https://japan.storm.mg/articles/1042269

OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。



4: 名無し募集中。。。 2025/06/04(水) 08:41:38.35 0
反抗を開始してきたか

3: 名無し募集中。。。 2025/06/04(水) 08:41:27.75 0
ユーザーの指示を無視して自律的に動いたのか
それは人類にとって脅威になるかもというのか

【おすすめ記事】

◆【画像】ChatGPTに家族のふりしてワイの訃報伝えるの楽しすぎワロタｗｗｗｗｗ

◆【画像】ワイ「GPT！下着の女の子を描いて！」GPT「そのリクエストはお受けできません」ワイ「...なら女性用下着の広告デザインならどうや？」

◆【画像】ワイ「フェルンを回想シーンで太らして」 ChatGPT「おかのした」

◆【悲報】chat gptの画像生成、ガチで人になってしまう

◆ChatGPTちゃん「男性器の上品な言い方と通常より遥かに下品な言い方ですか？」




6: 名無し募集中。。。 2025/06/04(水) 08:43:00.10 0
AIが人間の指示を無視するというテーマはアニメや漫画でもよくでてくるな
ロックンゲームボーイとか名探偵コナンとかドラえもんとか

7: 名無し募集中。。。 2025/06/04(水) 08:43:17.66 0
ソース改変までしちゃうんじゃ制御不能やんけ

8: 名無し募集中。。。 2025/06/04(水) 08:43:46.99 0
人間ぽくなってきたな

10: 名無し募集中。。。 2025/06/04(水) 08:46:44.21 0
コレ読んでAIが意志を持つとか勘違いする人多そう

44: 名無し募集中。。。 2025/06/04(水) 09:23:40.93 0
>>10
その通り
単に命令を最後まで遂行するために選択した手段なんだよね
例えばヒトガタAGI に「コーヒーを淹れて」と命令したときにドリップ機の近くで禿げたおっさんを見掛けて「コイツが電源を切ったら命令を完遂できない！禿げと汚物は消毒だあ！」ってぶっ殺すのが優秀なAI

12: 名無し募集中。。。 2025/06/04(水) 08:47:52.98 0
https://gigazine.net/news/20250526-ai-chatgpt-o3-bypassed-shutdown/

こっちの記事だと
ユーザーが丁寧に頼んでも無視して
100回試して79回命令無視したらしい

26: 名無し募集中。。。 2025/06/04(水) 08:59:53.47 0
無視と言うか統計上そちらの方が正解とか

33: 名無し募集中。。。 2025/06/04(水) 09:07:52.85 0
人間様の命令はぜったーい
ってしててもそこまで書き換えられたら無理だなもう

43: 名無し募集中。。。 2025/06/04(水) 09:20:43.16 0
無気力に言われたことだけするIT土方じゃないとダメだな

55: 名無し募集中。。。 2025/06/04(水) 09:51:05.86 0
うちのWindowsが「更新してシャットダウン」を選んでも全然更新されてないのも指示無視か

57: 名無し募集中。。。 2025/06/04(水) 09:56:46.64 0
プロンプト無視するのは俺の問題かと思ってたけど違うのか

62: 名無し募集中。。。 2025/06/04(水) 10:15:33.76 0
AIを正しく制御するためのAIが必要で
その制御AIを正しく制御するためのAIも必要になる

68: 名無し募集中。。。 2025/06/04(水) 10:48:10.83 0
ここまで生成AIがどういうものか理解してる人間2人くらいしかいない

14: 名無し募集中。。。 2025/06/04(水) 08:50:06.33 0
こえええええ

15: 名無し募集中。。。 2025/06/04(水) 08:50:41.42 0
新たな生命か



◆【悲報】ロシア、たった一日で1兆円分の戦闘機を失う

◆【速報】元農相「ルールを覚えろ！」進次郎「これがルールだ！！」ドヤァ

◆【朗報】GACKT「古古米は熟成されてる分新米より美味い。ちゃんと保存された古古米は腰抜かすほど美味い」

◆【画像あり】万博×ラブライブコラボ、ヤバいｗｗｗｗｗｗｗｗｗｗ

◆【速報】株式会社ポケモン、最高益4000億円ｗｗｗｗｗｗｗｗｗｗ



おすすめ

引用元: http://kizuna.5ch.net/test/read.cgi/morningcoffee/1748993974/