Levico's BLOG

時々あうぞーさんと雑談をしている中で出てくる話題がAIの進歩。
なんでも、囲碁や将棋のAIでは開発者が「なぜそういう手を打ったのかが分からない｣というところまできているのだそうです。
そして、Facebookは開発していたチャットボット同士が人間が分からない独自の言語を編み出して会話を始めたとあります。

フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。
引用：スプートニク日本

また、何かの記事で読んだのですが、AIに接続され人間の表情を真似する会話ロボットのテストで、「人間をどうしたいのか？」とAIに聞いたところ、ニコッとした表情の後に無言となったそうですよ(こわこわ)

SFに出てくるようなAIやロボットの反乱(それこそ2001年宇宙の旅とかターミネーターとか)がすぐに起きるとは思っていなくて、私自身は結構楽観的ではありますが、人間の手助けをするのが機械の役割であって、人間のコントロールを離れる状態というのは結構怖いものです。
往々にして技術者は心配の声に対して「そんなことは無い！人間の役に立ち明るい未来を作るものだ！」と言うのですが、歴史を振り返れば未来を信じて研究や開発に突き進んだ科学者や技術者が、往々にしてそれと反する結果を招いているという現実も忘れちゃいけないかと。

私は一応技術関係の仕事をしていますが、技術者にありがちな「全てをテクノロジーで解決する」という思考は正しくないと思っていまして。
何かの問題に対してテクノロジーでしか解決できないことは良いのですが、何でもかんでもテクノロジーで解決するという発想は貧困だな・・・と。