独自言語で会話を始めた人工知能
(全体の目次はこちら)
独自言語で会話を始めた人工知能
- 今、必要なものは? -
最初に知ったのは
通勤途中のラジオだったのだが、
先週、衝撃的なニュースがあった。
帰って来て調べてみると、
関連記事がネットにある。
ただ、現在公開されている記事が
いつまで読めるのかわからないので、
個人的な記録のために
その一部をここで取り上げておきたい。
代表で選んだ元の記事は
2017年8月2日付のこちら。
人工知能(AI)についてのニュースだ。
記事のタイトルは、
「終わりの始まり…?
独自言語で話しはじめた人工知能、
Facebookが強制終了させる」
(以下水色部は記事からの引用)
人工知能の研究開発において、
近未来SF映画のような
事態が起きていました。
会話をさせていた
2つの人工知能ボブとアリスが、
独自の言語を生み出し、
話し始めたのです。
人間には理解しがたい言葉を話す
2体のAI。
Facebookの開発チームは、
これを受けて人工知能の
マシンラーニングプログラムを
強制終了させました。
人工知能(AI)が人間の能力を超える
技術的特異点、
シンギュラリティ(Singularity)なる言葉を
耳にすることも多くなっているが、
それにしてもこの記事の恐ろしさは、
表現のしようがない。
人間には理解できない独自の言語で
AI同士が会話を開始した、というのだ。
ついに、ここまで来てしまったのか。
私自身は、門外漢の素人ながら
一エンジニアとして
AIの進歩を楽観的かつ好意的に
見つめている。
どんどん進歩すればおもしろい、
と思っている。
それなのに、このニュースには
どこか別な部分が反応してしまった。
それはいったどこなのだろう?
個人的には、身体を持たない
知能だけのシンギュラリティの議論は
ナンセンスだと思っているので、
単純な
「もしそうなったら人類の終焉だ」
「終わりの始まりだ」
みたいな極論には全く与(くみ)しないが、
次々と新しいネタが飛び出してくる
AI関連のニュースからは目が離せない。
松尾 豊 (著)
人工知能は人間を超えるか
ディープラーニングの先にあるもの
(角川EPUB選書)
(以下緑色部は本からの引用)
にこんな記述がある。
社会が概念獲得の「頑健性」を
担保している可能性がある。
複数の人間に共通して現れる概念は、
本質をとらえている可能性が高い。
つまり「ノイズを加えても」
出てくる概念と同じで、
「生きている場所や環境が
異なるのに共通に出てくる概念」は
何らかの普遍性を持っている
可能性が高いのだ。
言語は、こうした頑健性を
高めることに
役立っているのかもしれない。
人間の社会がやっていることは、
現実世界のものごとの特徴量や
概念をとらえる作業を、
社会の中で生きる人たち全員が、
お互いにコミュニケーションを
とることによって、
共同して行っていると
考えることもできる。
身体だけでなく、
社会やコミュニケーションが
裏にあってこその概念獲得。
ロジックやデータだけに基づく進化に
直感的な危うさ、怖さを感じるのは、
そういった裏の支えがないことが
原因なのかもしれない。
著者の松尾さんはこうも書いている。
まず議論すべきは、
「人工知能が将来持つべき倫理」
ではなく、
「人工知能を使う人間の倫理」や
「人工知能を
つくる人に対する倫理」である。
最初の記事に戻ると、実際、
AI同士が意味のわからない言葉で
会話を続けることに直面したエンジニアも
この件を報じており、
パニックでプラグを引っこ抜いたとか、
システムをシャットダウンした
などと言われています。
なる行動をとってしまったようだ。
エンジニアとしては乱暴なその行為を
反射的にとってしまった
今のFacebookのエンジニアには、
ちょっとホッとするところがある。
今、「作る人」に必要なものは
ナンなのだろう。
恐ろしくなって、
「プラグを引っこ抜いたり」、
「シャットダウンしてしまったり」、
そういう『恐ろしさ』を感じる気持ちは
持っていてもらいたいと思う。
それが倫理や論理に
基づくものかどうかはともかく。
(全体の目次はこちら)
« 昭和初期の『小学生全集』 | トップページ | 鏡の中の不思議な立体 »
「ニュース」カテゴリの記事
- 接続はそれと直交する方向に切断を生む(2024.08.18)
- ついにこの日が来たか(2024.07.28)
- 実戦でまだ指されていないものが定跡!?(2022.08.28)
- 『違和感ワンダーランド』の読後感(2022.05.15)
- 恥ずかしいから隠すのか、隠すから恥ずかしくなるのか(2022.03.06)
「日記・コラム・つぶやき」カテゴリの記事
- 黒目川 (5) 下行(2025.02.09)
- 黒目川 (4) 遡行(2025.02.02)
- 黒目川 (3) 遡行(2025.01.26)
- 黒目川 (2) 遡行(2025.01.19)
- 黒目川 (1) 遡行(2025.01.12)
「書籍・雑誌」カテゴリの記事
- どんな読み方も黙って受け入れる(2025.01.05)
- 付箋を貼りながらの読書(2024.12.29)
- 後日に書き換えられたかも?(2024.12.22)
- 内発性を引き出してこそ(2024.12.15)
- 生物を相手にする研究(2024.12.01)
「言葉」カテゴリの記事
- どんな読み方も黙って受け入れる(2025.01.05)
- 付箋を貼りながらの読書(2024.12.29)
- 後日に書き換えられたかも?(2024.12.22)
- 内発性を引き出してこそ(2024.12.15)
- 「生きてみると、とっても大きい」(2024.12.08)
「科学」カテゴリの記事
- 生物を相手にする研究(2024.12.01)
- 「隠れた活動部位」こそ「心の実体」?(2024.11.24)
- 「こんにちは」と声をかけずに相手がわかるか(2024.11.17)
- 新東名高速道路 中津川橋 工事中(2024.10.27)
- 新東名高速道路 河内川橋 工事中(2024.10.20)
コメント