こんばんは
名古屋の中小企業診断士「やまちゃん」こと山根智樹です。
今日もAIについて考えてみたいと思います。
人工知能はどんどん発達していて、
2045年頃には人間を超えると考えられています。
その時、人間はロボットの暴走を止められるのでしょうか。
ロボットが暴走する例として、次のようなことが考えられます。
例えば地球温暖化を防止する方法を考えなさいという命令を出したとします。
すると、ロボットは地球温暖化を防止するためには、
人間による二酸化炭素排出を抑制する必要があると考え、
人間を排除すべきだという結論に達するかもしれません。
ロボットにとって、地球温暖化を防止するという目的がすべてであって
人間を殺してはいけないという思考が無ければ、
いろいろな方法で人間を排除するかもしれません。
仮に、人間を殺してはいけないというプログラムを組み込んだとしても、
人間を全員火星に連れてゆけばいいという結論に達するかもしれません。
つまり、機械による労働災害と一緒で、機械は人間の怪我や生死が
良い悪いという判断をしていないのです。
だれもそんなプログラムなんて書かないから大丈夫だよ、
と考えるかもしれません。
しかし、機械による災害だってだれも望んでいるわけではないのに
発生してしまいます。
だったらグーグルのように非常停止ボタンを使えばいいじゃないか、
と考えるかもしれません。
しかし、非常停止ボタンも目的のための障害と認識されれば、
無効化されるかもしれません。
人間が目的を妨害する敵と判断されれば、
その時点で停止させることは困難になります。
道徳教育と人間の存続をプログラムに加えればよいと考えるかもしれません。
しかし、一つ一つの思考や動作がこれらに対して
どのように影響するのか、ということを考えるために、
機械は将棋の手を考えるより遥かに膨大な計算により
影響を考えなければなりません。
おそらく答えは出てこないでしょう。
汎用性の高い機械は便利である一方、
非常に危険であると考えられます。
物理的な影響の他に、IoTにより多くのものがインターネットでつながれたら
機械が影響を及ぼす範囲はさらに広がるかもしれません。
人間はおそらくこれらの問題に対する解決手段を見つけるかもしれません。
しかし、一部の人間は、自分や自国の利益のために
不十分な対策のまま機械を動かす可能性は十分にあります。
今のうちから、しっかりと考えなければなりませんね。
お気軽にご連絡ください！
yamanetomoki@yahoo.co.jp
https://yamane-tomoki.amebaownd.com/
プロフィール
山根智樹
・中小企業診断士
・MBA（名古屋商科大学 国際認証AACSB、AMBA認定校）
・株式会社デンソー
エンジニアとして自動車用電池開発に携わる一方、コンサルタントとして活動中。
研究開発から生産現場まで幅広い職務を経験し、現在は戦略策定にも従事。
従業員のスキルアップを目的とした社内講演会を戦略からモチベーションまで複数開催。
研究討論会１位（２４人中）、報告書件数１位（６０人中）
組織改善事業部長表彰１位、アンケート満足度１位（２０チーム）
東京都中小企業診断士協会中央支部所属
趣味は旅行、音楽、カフェ巡り、慈善活動、心理学、宇宙論
座右の銘：開物成務
人生の目標：日本人の幸せに貢献したい
開成高校卒業
東京工業大学化学科卒業
東京工業大学化学専攻修士課程修了（物理化学）
キヤノン株式会社 生産部門（複写機トナー生産技術）
株式会社デンソー 研究開発部門（リチウムイオン電池）
名古屋商科大学MBA修了