読者です 読者をやめる 読者になる 読者になる

実験やめたった シマエナガ編

劇団「実験やめたった」の活動報告

2015年を振り返る:人工知能はコンピュータウィルスで暴走するのか?

 

2015年の筆者はコンピュータウィルスと戦っていた。この記事ではその戦いの様子と、人工知能やIoTが普及しているであろう未来のウィルス対策について考えたことを述べる。

 

8月の騒動

 最初のウィルス騒動は8月に起こった。筆者が朝大学にやってきてしばらくするとネットが繋がらなくなっていた。そうこうしているとすぐに「ネット繋がってませんよね?」と色々な人が筆者のところにやってきた。そして出張中のボスから「管理部局がネットを遮断したというので事態を調査せよ」との指令が来た。

 

 管理部局から送られてきた情報によると、ウチのネットワークから異常な量のpingが特定のサーバに向けて送られまくっているらしい。pingとはネットワーク上にあるコンピュータに対して信号を送り、相手から応答があるか、ひいてはネットワークが疎通しているかを確認するものである。このping信号自体は無害であるが、一気に大量のpingを特定のコンピュータに送り高い負荷をかけることで、そのコンピュータを機能不全に陥れることができる。ウチから出ていたというpingの送り先のIPアドレスを調べてみるとGoogleとかYahooのサーバだった。つまり、現在我々の中の誰かのPCが何らかのウィルスに感染しており、知らないうちにサイバー攻撃(いわゆるDDos攻撃)に加担させられているのであった。

 

 筆者はフロアの全員に自分のPCのウィルスチェックを頼んだのだが、それらしきウィルスは出てこなかった。その日はボスがいなかったのでアクセスログを解析する方法(を書いた書類の所在)が分からず原因は特定できなかった。

 

 翌日ボスが戻り、筆者がアクセスログを解析したところ、pingを出しまくっていたのはM1のN君のPCだと判明した。前日のウィルスチェックでN君のマシンからは何も検出していなかったのにも関わらず、である。運の悪いことに原因が分かったのは金曜日の夕方で、ネットワークの復旧は早くても週明けの月曜日を待たねばならなかった。

 

 筆者はそのウィルスの素性を調べるために、N君のPCをネットワークから隔離して色々実験をやってみた。その結果分かったことはこんな性質である。

Windows System Center Endpoint Protectionには検知されない。

GoogleやYahooのサーバに、毎分10発のペースでpingを送る。

・PCをしばらく放置しておくと活動を始め、キー入力があると止まるようである。

 

 筆者はさらにPCのどのプロセスがpingを出しているのかまでを突き止めたかったのであるが、筆者もN君も本業のほうを進めないといけなかったのでこれ以上の調査は打ち切りにした。2015年で最も悔しい出来事だった。そして筆者らはN君のマシンを工場出荷状態に戻した。

 

 しかし事態はこれでまだ終わらなかった。N君のマシンをひきつづき監視していたら何も変なフリーソフトはインストールしていないのに、例のpingが出ていた。これはもはやDE●Lの工場出荷状態の時点でその挙動が入っていたとしか考えられない。結局筆者らは、工場出荷状態よりも前の、素のWindowsを入れたのみの状態にまでPCの状態を戻す羽目になった。それ以降N君のマシンからは変なpingは出ていない。

 

11月の騒動

 二度目の騒動は11月に起こった。筆者のいるフロア全体がまたインターネットに繋がらなくなった。今度の遮断の原因は、とあるPCがcommand&controlサーバにアクセスしていたのが検知された為だという。これはつまり、誰かのPCがウィルスに感染して、遠隔操作で乗っ取られそうになったという事である。またここ一ヶ月ほどの間も怪しい通信(url schemeを悪用した攻撃かもしれない通信)がちょろちょろと出ていたらしい。また筆者に調査の指令が出された。

 

 ログを見てみると、原因はつい数日前に海外からやってきた外国人研究者のWさんのマシン、それから留学生のGさんのマシンだった。

 

 Wさんに話を聞くと、日本に着て早々"なんとかリペアー"なるフリーソフトをインストールしたらしい。そのフリーソフトか、または同時に出てきた変な公告のリンク先がウィルスであった。そのPCにはカスペルスキーがインストールしてあって問題の通信があった直後にウィルスを検知して削除していた。しかし、管理部局が「一度でもウィルスに感染したPCはOSから再インストールすべし」と言ってきたのでやむなく再インストールをすることにした。

 

 またGさんのマシンのOSを再インストールをしようとしたところ、実はWindowsが非正規品だったことが判明した。Gさんは発展途上国からの留学生であるが、そこではそういう品がさも普通に売られていて、Gさんは自分のPCが海賊版だとは認識していなかった。Gさんは泣く泣く正規品のWindowsを買いに行った。なお日本におけるWindowsの価格は、Gさんの国の平均的な1ヶ月分の給料に相当する。Gさんは「国に病気の母がいるので、少しでも仕送りをしたいところなのに・・・」と言っていた。それがあまりに可哀想だったので、ボスがその費用を出してあげたらしい。

 

犠牲者

 こういう事件が起こると関係者全員が不幸になる。同じフロアにいる助教のN先生は気の毒なことに、「学会のプログラム編成をやらなきゃいけないのにネットが使えないのは困るなぁ」と言っていた。そして最も気の毒なのは筆者自身で、事態を調査し皆さんのPCの面倒をみていたせいで週末と勤労感謝の日がつぶれた。それからこの一連のやり取りの中で、我々は管理部局から「またあなたがたですか」と眼の敵にされているような印象を受けた。確かに我々に非があるのは確かだが、そういうライフラインを握っている者が「こちらの条件を受け入れないとネットワークを復旧させない」とけしかけてきたのはもはや脅迫なんじゃないかと思った。

 

 ところで、筆者のいるフロアでは、各人は自分のPCで固定IPを設定して、有線LANでないとインターネットに接続してはできないことになっている。当初筆者はそんなアナクロなことが本当にあるのかと思っていた。しかし情報セキュリティに力が入れられない団体や企業は、トラブルを未然に防ぐためにこういう厳しい条件を課さざるをえないのであろう。ネットワーク利用の利便性にも世の中には大きな格差が存在するのである。

 

 そしてやはり一番許せないのは、ウィルス作成者である。こうした我々一般市民を巻き込んだサイバー攻撃は無差別テロとかと同じである。そのために我々はウィルス対策ソフトを買わねばならなくなり要らん仕事を増やされる。筆者はそういった脅威が消え平和が訪れることを切に願っている。

 

人工知能とIoT時代のウィルス対策

 このようにサイバー攻撃の手口は多様になってきているいっぽう、人工知能が社会に普及し、IoTと呼ばれるように多くの機器がネットで接続される将来、ウィルス対策というのはどうなるのか。正しく動作している人工知能が何者かの悪意によって予期しない挙動をしてしまうことがあるのか。また賢くなりすぎて人類に危害を与えるようになった人工知能を(ID4のアレやナポギストラーやメタルギアのGWのように)ウィルスを感染させて葬ることはできるのか?

 

 最近筆者は、大学に泊まる日の夜に銭湯に行った際、毎回マッサージチェアに揉まれることにしている。マッサージチェアに揉まれていると、あと数年もすれば人工知能技術がマッサージチェアにも搭載されるようになるんだろうなと想像する。例えば、体をもむ装置に体の弾力を測定するセンサーがついていて、凝っている部分を集中的に揉んでくれる技術が付くとおもう。また心拍数とか「あぁー」とか言う声によってリラックス具合を検知し、その人が一番気持ちいいと思う箇所を長いことやってくれるようになると思う。筆者の場合はア●ルへの振動が心地よくてどんどんフィードバックがかかった結果ア●ルばかりが開発されていくだろう。そしてその情報はメーカーにネット経由で送信され、現在日本人がどんな筋肉の凝りに悩まされているか(またはア●ルの開発が進んだか)を調査するデータとなるだろう。

 

 こうした未来において、どんな脅威がありえるかを挙げてみる。揉む力を最大限にして揉まれている人間を骨折させる、また何か回路に変な大電流を流して発火させるなど。これはシステムの制御系に作用する攻撃である。また情報を抜き取るスパイウェア的な脅威としては、筆者の身体的特徴だとかア●ルがどれだけ開発されたかと言う個人情報の盗聴というのもあるだろう。

 

 で、筆者でも思いつくようなこういった簡単な攻撃は、多分メーカーがすでに対策をとっていて心配しなくてもよいのではないかと思う。各出力装置にはハードウェア的に出力の制限を設けておき暴走しないようにする。情報は内容を暗号化して特定のコンピュータとの間でしか通信しないようにする。で、結局システムの要素を細かく見ていけば、「狭義の意味での人工知能」の仕事とは分類とか回帰とか推定であるので、そこに作用する攻撃としては、オンライン学習を上手くいかなくすることで、また、最適化された学習結果を改ざんすることで、ぜんぜん気持ちよくないマッサージ器にしてしまう、程度の攻撃にしかならないんじゃないかと思う。もちろんそういった学習データやデータIOの部分はネットワーク外部からのアクセス権が無い所で守ってあるはずで、(狭義で)人工知能をバグらせるという事自体難しく地味なものであろう。

 

 筆者の意見をまとめる。ここ数年の間に人工知能搭載を謳った家電が続々登場してくると思う。それはメーカーが自社の研究室でチューニングしたパラメータによって動作するのではなく、実際のユーザーとのインタラクションの中で最適なパラメータが更新されていく、そういう意味の学習機能=人工知能を持った製品である。こういう製品は外部から不正に操作されないよう、標準化されたインターフェイスを持つモジュールを組み合わせて出来ているとおもう。だからよほどの事がない限り、外部からウィルス的なものを感染させて暴走させることは出来ないと思う。我々ユーザーは普通に使っていればウィルス感染の心配はしなくてもよい・・・ようにメーカーと法体系がしてくれるはず。

 

 ただこれは素人の想像であって実際に何が起こるかわからない。それから真の意味での人工知能が現れた時はどうなるのかはなおさら分からない。みなさんのご意見はいかがだろうか。(なげやり)

 

とりあえず筆者は、IoT時代のスタンダライゼーション権はどこが獲っていくのかに興味がでてきた。