シンギュラリティ（技術的特異点）という言葉が広まってからかなり時間が経ち、最近はＡＩ（人工知能）の進歩が進んでいることは確かです。
これに伴い、「ＡＩが人類を滅ぼす」といった警鐘を鳴らすような書籍などが増えてきています。
私は基本的にはＡＩといっても単なる「計算機」にすぎないと思っていますので、シンギュラリティなどは起こり得ないと考えています。それでも最近は著名な科学者などが、ＡＩの危機を叫んでいますので少し紹介してみます。
ＡＩというものにどんなイメージを持っているにせよ、多くの人はＡＩが人類を滅ぼすとは考えてはいません。ＡＩが生活を豊かにすると思っている人はともかく、ＡＩが日常生活に入り込むのは嫌だとか、ＡＩに仕事を奪われるのは嫌だと感じることはあっても、脅威と感じてはいません。
しかし人工知能が人類を絶滅に追いやるかもしれないと警告し、これは単に起こる可能性があるというだけではなく、今すぐ慎重を期して備えを始めておかないとほぼ間違いなく起こるとしています。
この理由の一つに「フレンドリー」を挙げています。つまり知性を持つＡＩが人間にフレンドリーであるとは断言できないからです。
ここでは人間は野ネズミより何百倍も賢いが、ＤＮＡの90％は共通しています。しかし巣穴をつぶして畑にする前に、はたして野ネズミに相談するだろうか、つまりＡＩが人間を憎んでいなくともフレンドリーではなくなるだろうとしています。
ＤＮＡが90％も一致している野ネズミに対してさえ、人間は彼らの意見を取り入れて何かすることなどありません。人間とＡＩには構成要素に共通項など存在しないし、ＡＩが知性を持ち自分で物事を判断し始めるとき、人間を地球にとっての害として排除しようとする可能性は十分にあり得るとしています。
ここで議論されているＡＩというのは、現在生み出されているものとは能力がけた違いに高いものです。ここでは人間と同程度の知能を持つ人工汎用知能（ＡＧＩ）と人間よりもはるかに高い知能を持つ人工超知能（ＡＳＩ）を取り扱っています。
現状ではＡＧＩさえ開発されていませんが、その開発は近いと考えているようです。これは国防機関などでは、ＡＧＩを開発する危険性よりも、中国が先に開発する脅威の方がはるかに高いためです。
この様にＡＩ開発はますます加速されそうですが、私は全く危険性を感じていません。先に述べたようにＡＩは計算機ですから、人間の知能をすべて数式で表せなければ、人間と同等の知能とはなり得ません。
人間のアイデアやひらめきといった部分を数式で表すことは不可能でしょう。ということでＡＩが人類を滅ぼすことはないと断言できます。
これに伴い、「ＡＩが人類を滅ぼす」といった警鐘を鳴らすような書籍などが増えてきています。
私は基本的にはＡＩといっても単なる「計算機」にすぎないと思っていますので、シンギュラリティなどは起こり得ないと考えています。それでも最近は著名な科学者などが、ＡＩの危機を叫んでいますので少し紹介してみます。
ＡＩというものにどんなイメージを持っているにせよ、多くの人はＡＩが人類を滅ぼすとは考えてはいません。ＡＩが生活を豊かにすると思っている人はともかく、ＡＩが日常生活に入り込むのは嫌だとか、ＡＩに仕事を奪われるのは嫌だと感じることはあっても、脅威と感じてはいません。
しかし人工知能が人類を絶滅に追いやるかもしれないと警告し、これは単に起こる可能性があるというだけではなく、今すぐ慎重を期して備えを始めておかないとほぼ間違いなく起こるとしています。
この理由の一つに「フレンドリー」を挙げています。つまり知性を持つＡＩが人間にフレンドリーであるとは断言できないからです。
ここでは人間は野ネズミより何百倍も賢いが、ＤＮＡの90％は共通しています。しかし巣穴をつぶして畑にする前に、はたして野ネズミに相談するだろうか、つまりＡＩが人間を憎んでいなくともフレンドリーではなくなるだろうとしています。
ＤＮＡが90％も一致している野ネズミに対してさえ、人間は彼らの意見を取り入れて何かすることなどありません。人間とＡＩには構成要素に共通項など存在しないし、ＡＩが知性を持ち自分で物事を判断し始めるとき、人間を地球にとっての害として排除しようとする可能性は十分にあり得るとしています。
ここで議論されているＡＩというのは、現在生み出されているものとは能力がけた違いに高いものです。ここでは人間と同程度の知能を持つ人工汎用知能（ＡＧＩ）と人間よりもはるかに高い知能を持つ人工超知能（ＡＳＩ）を取り扱っています。
現状ではＡＧＩさえ開発されていませんが、その開発は近いと考えているようです。これは国防機関などでは、ＡＧＩを開発する危険性よりも、中国が先に開発する脅威の方がはるかに高いためです。
この様にＡＩ開発はますます加速されそうですが、私は全く危険性を感じていません。先に述べたようにＡＩは計算機ですから、人間の知能をすべて数式で表せなければ、人間と同等の知能とはなり得ません。
人間のアイデアやひらめきといった部分を数式で表すことは不可能でしょう。ということでＡＩが人類を滅ぼすことはないと断言できます。
