傍流雑記帳

「本流」をはずれたら、気づいたことがたくさんあった。

「チャッキーだらけの社会」の恐怖

新作映画「チャイルドプレイ」を観てきました。(以下ネタバレ注意)

 

ご存じの方も多いかと思いますが、1988年に公開された第一作とそれに続くシリーズのリメイク版で、意思を持った人形が殺人を繰り返すというホラー映画ですね。

「主役」の人形、チャッキーの顔が不細工になったなんていう声も聞きますが、なかなか面白かったですよ。

 

最先端テクノロジーを誇るアメリカの企業(なんかgoogleぽい?)が開発した「バディー人形」。

音声認識や各種センサーなど、ハイテク技術満載ですが、実は、ベトナムブラック企業で生産されています。その従業員の1人が、会社への不満から、製品のプログラムを改変してAIの行動制限を解除した「欠陥品」を出荷してしまいます。

なんだか2008年の中国製毒入り餃子事件を思い出させる話ですね。

 

出荷後、その人形「チャッキー」は、母親からのプレゼントとして、孤独な少年アンディに贈られ、2人は「親友」になります。しかし、次第にアンディの周辺で異変が起こりはじめ、ついには、連続殺人へと発展します。

その殺しの手口が凄まじく、スプラッターテイスト全開なので、そういうのがお好きな方は、かなり楽しめるでしょう。

 

しかし、です。この映画が本当に怖いのは、殺人のシーンではなくて、「これに近いことが実際に起こるかもしれない」という恐怖だと思います。

 

第1作から続く初期のシリーズは、ブードゥー教の呪いによって、人形に命が吹き込まれてしまうという設定だったので、そんなことが現実となることは、まず考えられません(可能性が0ではないかもしれませんが・・・)

でも、今回の主人公は、とにかくハイテク仕掛けなのです。

AIは、いま急速に進化する一方でブラックボックス化しつつあり、しかもIoT (Internet of Things モノのインターネット)とやらで、あらゆる電子機器にネットで繋がっています。あるセキュリティ会社幹部はIoTを"Internet of threat" (脅威のインターネット)と呼んででいましたが、正にその通りだと思います。

 

この映画の中でも、犠牲者の一人は、チャッキーの指示によって暴走した自動運転タクシーで事故死してしまうのですが、自動運転車が普及した将来、AIのバグや悪意を持ったハッカーが事故を引き起こすというのは、十分考えられます。

 

7月23日付けの日経新聞によると、多くの企業で、AIのブラックボックス化には頭を悩ませているそうです。AIの判断の根拠を人間が検証できないため、事故などで説明責任が生じた時に対応できないんですね。

また、Googleの画像認識AIが黒人をゴリラと認識したり、マイクロソフトの会話型AIがツイッターで不適切な言葉を連発するなど、倫理的な問題が生じている例も紹介されていました。

 

常に新しい技術を追求したいエンジニアの気持ちや、それをビジネスチャンスとしていきたい企業の思惑もよく分かりますが、AIによる事件・事故が起きないことを祈っています。