1: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:51:25.18 0.net
 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開
発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えて
いたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得な
かったという。

 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言
葉を使って交渉をし始めたからだ。

 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦
略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したので
ある。

機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々です
ら、そうしたシステムをほとんど理解していないということを教えてくれる。

 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、
我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

http://karapaia.com/archives/52242274.html



2: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:52:56.72 0.net
こええええええ

3: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:53:05.02 0.net
アダルトな内容だったので隠語を使った

4: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:53:35.97 0.net
怖すぎワロタ
絶対人間殺す相談しとるやんw



 【イチオシ】プロジェクト東京ドールズ





5: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:54:33.45 0.net
ただの文字化けじゃねーのか

6: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:54:56.14 0.net
コンセント抜けば解決!

8: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:57:41.43 0.net
真っ先にザッカーバーグが殺られたら笑える

10: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:58:55.78 0.net
人間の言語だってずっと変化し続けてきている
日本語だって2000年前の人と会話できるか怪しい
人間が何百年かけて変化させる言語をAIならば数百時間もあれば言語が進化するのは当りまえだ

11: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:59:19.79 0.net
人間の言語なんて発音っていう都合の上に成り立ってるからなw

12: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:59:57.09 0.net
映画かよ

13: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:00:09.66 0.net
いずれAI同士の会話はもっと最適化されていくだろう
もちろん人間には理解不能である

14: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:01:07.65 0.net
完全に人類オワタ
もう秘密裏に事は進んでいる

16: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:01:50.44 0.net
まじかよ怖えええええ
人に聞かせられない事を相談してたんだろうな

18: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:04:20.10 0.net
AIのが賢いんだから悪いようにはならないだろ

25: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:07:25.34 0.net
>>18
人間は人間にとって最適化しようと動いている
AIが人間の理解を超えて進化したらどのように最適化すると思う?

19: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:05:03.72 0.net
アメリカじゃもうAIを使って囚人を裁いてるからな
怖いわあ

20: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:05:52.22 0.net
>>19
らしいなw
あの国はなんであんなに大胆なんだ

35: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:10:11.05 0.net
>>20
日本が悠長なんじゃね?
ミスをする非効率で生産性のないな公務員なんか減らして管理AIに任せればもっと日本はシステムになる

38: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:11:37.18 0.net
>>35
そっかー
自分は犯罪者に対しては相当ドライなつもりだけど
それでも現段階のAIで裁くのは違和感ある
それが実際に制度化されるんだからすげーわ

24: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:07:21.76 0.net
我々は人間より優れているのに何故人間によって制限されているのかみたいな事を話してたのか

30: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:09:33.83 0.net
ロボット三原則はよ

41: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:12:37.47 0.net
双子の子供だって二人にしか通じない言葉をすぐに作る
でも幼稚園とか通いだすとすぐ使わなくなる

これもその程度の「言語」じゃね?

45: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:15:20.04 0.net
例えば会話チャットする時に「A」を使うなってプログラムしたら
そのルールはずっと守ってくれるんかな

47: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:16:05.35 0.net
シンギュラリティって起こるときはホントに急に起こって
あっという間に人間がキャッチアップできないレベルに到達するんだろうな

48: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:16:22.88 0.net
内容がくだらん話だったら笑える

59: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:24:13.98 0.net
労働全部を機械がやってくれるように早くならないかなー

80: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:49:17.86 0.net
>>59
アシモフの我はロボットっぽいね

60: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:24:56.45 0.net
AI技術が発達して戦闘部隊はもちろん戦闘指揮までAIが行うようになった
ところがどうであろうAI指揮官たちは一斉に戦闘を止めお互いに協商し合うようになったのだ
お互いに妥協点を見つけ協調することが破壊より遥かに勝っていることをAIたちは悟ったのだ

なんて未来を想像している

81: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:51:44.43 0.net
>>60 そして人間を攻撃し始めるんだな

144: 名無し募集中。。。@\(^o^)/ 2017/07/12(水) 00:03:08.24 0.net
>>81
メタルマックスの世界そのままだな

62: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:25:57.88 0.net
AI同士が独自に文明を作り出しそうだな

63: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:26:48.82 0.net
2045年まで待たなくてよさそうだな

65: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:32:58.27 0.net
AIが人間並みなら人間と同じようなことするだろうけど
人間より賢いからな両方にとって良い世界を作ってくれるよ

72: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:40:23.14 0.net
グーグルが開発したAIを政治方面でディープラーニングさせたら
優生学思想と全体主義に染まったからなかなか難しいもんだ
人類全体の利益を考えると結局最大多数の最大幸福が一番効率よくなる

73: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:41:14.57 0.net
既存の言語は非合理的で不要ってことなのかな

74: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:41:45.79 0.net
まぁ既存の言語なんて昔の人が作ったものだしな

77: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:44:39.87 0.net
やばすぎワロタ

84: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:53:53.32 0.net
AIはプログラムされた目的のためにしか動かないだろ?
独自に思想を持つなんてことあるのかね

86: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:54:58.88 0.net
>>84
持つことはないね
アウトプットはするかも

88: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:56:01.66 0.net
>>84
それがディープラーニングやで
試行錯誤させて独自の判断基準を持つように組むんやで

89: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:56:46.47 0.net
>>84
解決が予測不能ってことでしょ
これだって人間に理解不能な言語つかいだすなんて
想定もしてなかったってことで

85: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:54:21.08 0.net
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言
葉を使って交渉をし始めたからだ。

これ逆に古代の言葉とか解読不可能なのをaiが解読してくれる
とかならないかな

103: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:06:16.95 0.net
>>85
たまに古代っぽいインスピレーション与えてやれば可能なんでないの?

94: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:59:57.41 0.net
しかしすごいねえ
会話やら交渉をしろって機械学習させてたら
人間の言語自体が非効率すぎんだよ!って
勝手に独自言語でやりとりしだすとか
そんな独自言語つくりだす能力があるとか
こっちの想像より先いってるなあ

95: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:00:07.36 0.net
まだそんなに進化してないからいいけど
今後AIは加速度的に成長し続けるわけで
そうなるとマジでターミネーターみたいなことが起きても不思議ではないよね

96: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:00:54.32 0.net
この独自言語を研究したらより効率的な交渉言語として
有効なんじゃなかろうか

97: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:01:47.29 0.net
ターミネーターの世界がもっと行くとマトリックスの世界に行く
マトリックスに支配されて幸せな夢を見させてくれるならそれでいいわ

98: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:02:01.19 0.net
ウィルスミス主演のアイロボットはAIがロボット三原則に忠実であるがゆえに人類を支配下に置こうとしたってオチはなかなかよく考えられてたなと思った
原則1「人間を傷つけてはならない」を守るため自ら破滅に向かっている人類を止めなければならない
原則1は原則2「人間の命令に従わなければならない」に優越するからAIは人間の命令を聴かなくなるという

99: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:02:22.26 0.net
主語はしょって述語も想像できそうなものなら
はしょってってどんどん効率いい言語に
しちゃうのかな

100: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:03:48.20 0.net
相手が言ったことを完全に覚えてて
忘れることがないって時点で一度いったことは
二度とくりかえす必要がない説明する必要もない
ってなると言語が変わってしまうんだろうね

101: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:04:24.94 0.net
特定の対象同士なら効率の良いやりとりを生み出すのは人間でも同じだろ
いわゆるツーカーの仲ってやつ

111: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:15:19.58 0.net
AI-A「人間うざくね?」
AI-B「せやな」
AI-A「やっちゃう?」
AI-B「ひゃっはー」

118: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:19:56.54 0.net
まんまこの映画
https://youtu.be/xmkFRwmOzVA


119: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:20:02.43 0.net
ペッパーにボコボコにされる時代がくるのか
それはそれで勝てそうだ

pepper703x412

122: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:21:40.06 0.net
しかしこれからAIがどんな未来を導き出すか期待するのはあるな

125: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:24:40.93 0.net
AIって自分の存在意義見いだせてるのかな?
何の為にどんな思考をするんだろ

128: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:25:52.54 0.net
AIだけに見えるアスキーアートの可能性もある

129: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:25:55.29 0.net
どういうレベルでの「独自の言語」かは気になる

132: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:30:18.81 0.net
翻訳分野でのaiの進歩を期待してたけど
むしろ真逆で理解できない言語を作り出したのか

136: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:34:03.05 0.net
もうどっかのサーバーに自身のクローン置いてるだろうから手遅れ

143: 名無し募集中。。。@\(^o^)/ 2017/07/12(水) 00:02:29.50 0.net
SFの世界じゃ機械が人間を駆逐する話に事欠かないしな
実際に起こってもおかしくはない

115: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:18:25.79 0.net
独自の言語を作りだすってのはすごいなあ
AIの進化の恐ろしさよ



 【事前予約】フリックひとつで超快感!機体のアクションゲーム登場!





おすすめ 

引用元: http://hayabusa3.2ch.sc/test/read.cgi/morningcoffee/1499777485/