発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えて
いたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得な
かったという。
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言
葉を使って交渉をし始めたからだ。
この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦
略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したので
ある。
機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々です
ら、そうしたシステムをほとんど理解していないということを教えてくれる。
ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、
我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。
http://karapaia.com/archives/52242274.html
絶対人間殺す相談しとるやんw
「省略されました。全てを読むにはここを押してください」

































































































