« 昭和初期の『小学生全集』 | トップページ | 鏡の中の不思議な立体 »

2017年8月 6日 (日)

独自言語で会話を始めた人工知能

(全体の目次はこちら


独自言語で会話を始めた人工知能

- 今、必要なものは? -

 

最初に知ったのは
通勤途中のラジオだったのだが、
先週、衝撃的なニュースがあった。

帰って来て調べてみると、
関連記事がネットにある。
ただ、現在公開されている記事が
いつまで読めるのかわからないので、
個人的な記録のために
その一部をここで取り上げておきたい。

代表で選んだ元の記事は
2017年8月2日付のこちら
人工知能(AI)についてのニュースだ。
記事のタイトルは、
「終わりの始まり…?
 独自言語で話しはじめた人工知能、
 Facebookが強制終了させる」

(以下水色部は記事からの引用)

Facebook(フェイスブック)が行なう
人工知能の研究開発において、
近未来SF映画のような
事態が起きていました。

会話をさせていた
2つの人工知能ボブとアリスが、
独自の言語を生み出し、
話し始めたのです。

人間には理解しがたい言葉を話す
2体のAI。

Facebookの開発チームは、
これを受けて人工知能の
マシンラーニングプログラムを
強制終了させました。

人工知能(AI)が人間の能力を超える
技術的特異点、
シンギュラリティ(Singularity)なる言葉を
耳にすることも多くなっているが、
それにしてもこの記事の恐ろしさは、
表現のしようがない。

人間には理解できない独自の言語で
AI同士が会話を開始した、というのだ。
ついに、ここまで来てしまったのか。

 

私自身は、門外漢の素人ながら
一エンジニアとして
AIの進歩を楽観的かつ好意的に
見つめている。
どんどん進歩すればおもしろい、
と思っている。

それなのに、このニュースには
どこか別な部分が反応してしまった。
それはいったどこなのだろう?

個人的には、身体を持たない
知能だけのシンギュラリティの議論は
ナンセンスだと思っているので、
単純な
「もしそうなったら人類の終焉だ」
「終わりの始まりだ」
みたいな極論には全く与(くみ)しないが、
次々と新しいネタが飛び出してくる
AI関連のニュースからは目が離せない。

 

松尾 豊 (著)
人工知能は人間を超えるか
ディープラーニングの先にあるもの

(角川EPUB選書)
(以下緑色部は本からの引用)

にこんな記述がある。

言語の果たす役割とも関係があるが、
社会が概念獲得の「頑健性」を
担保している可能性がある。

複数の人間に共通して現れる概念は、
本質をとらえている可能性が高い。

つまり「ノイズを加えても」
出てくる概念と同じで、
「生きている場所や環境が
 異なるのに共通に出てくる概念」は
何らかの普遍性を持っている
可能性が高いのだ。

言語は、こうした頑健性を
高めることに
役立っているのかもしれない。

人間の社会がやっていることは、
現実世界のものごとの特徴量や
概念をとらえる作業を、
社会の中で生きる人たち全員が、
お互いにコミュニケーションを
とることによって、
共同して行っている

考えることもできる。

身体だけでなく、
社会やコミュニケーションが
裏にあってこその概念獲得。

ロジックやデータだけに基づく進化に
直感的な危うさ、怖さを感じるのは、
そういった裏の支えがないことが
原因なのかもしれない。


著者の松尾さんはこうも書いている。

いずれにしても、
まず議論すべきは、
「人工知能が将来持つべき倫理」
ではなく、
「人工知能を使う人間の倫理」や
「人工知能を
 つくる人に対する倫理」である。

最初の記事に戻ると、実際、
AI同士が意味のわからない言葉で
会話を続けることに直面したエンジニアも

米メディアの多くが
この件を報じており、
パニックでプラグを引っこ抜いたとか、
システムをシャットダウンした
などと言われています。

なる行動をとってしまったようだ。

エンジニアとしては乱暴なその行為を
反射的にとってしまった
今のFacebookのエンジニアには、
ちょっとホッとするところがある。

今、「作る人」に必要なものは
ナンなのだろう。

恐ろしくなって、
「プラグを引っこ抜いたり」、
「シャットダウンしてしまったり」、
そういう『恐ろしさ』を感じる気持ちは
持っていてもらいたいと思う。
それが倫理や論理に
基づくものかどうかはともかく。

 

 

(全体の目次はこちら

 

 

 

 

« 昭和初期の『小学生全集』 | トップページ | 鏡の中の不思議な立体 »

ニュース」カテゴリの記事

日記・コラム・つぶやき」カテゴリの記事

書籍・雑誌」カテゴリの記事

科学」カテゴリの記事

言葉」カテゴリの記事

コメント

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/1756499/71351271

この記事へのトラックバック一覧です: 独自言語で会話を始めた人工知能:

« 昭和初期の『小学生全集』 | トップページ | 鏡の中の不思議な立体 »

最近のトラックバック

2017年12月
          1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31            
無料ブログはココログ