인공지능(AI)의 이해

人工知能(AI)の理解 Contents summary 人工知能(Artifical Intelligence)を簡単かつ明確に理解できる方法はないだろうか？非常に無謀で傲慢な考えであることはよく知っていますが、blogの特性上、長く論じることはできないので重要部分だけ調べることにします。 1. 科学の方法● 私たちは今日不確実性の時代を生きていると言いました。ずっと前から、人間はこれらの不確実性を克服するために機械を作り、未来を予測し、シミュレーションします。科学技術は進歩していますが、これらの不安は今日でも残っています。カオス(chaos)の中である秩序を探し、未来を予測しようと必死になっている理由です。不確実性こそ人間の最も恐ろしい敵ですが、不幸にもこの世は不確実性に満ちています。その理由は人間知性の限界のためです。秩序が最初からないのではなく、私たちには分からない秩序がありますが、それを知らないだけです。カオスの中で秩序を探す方法は科学や数学を通じて不変の真理を探そうとしますが、自然や各種社会現象はあまりにも多くの変数でいっぱいなので、私たちに簡単に予測を許しません。私たちがせいぜいできることは、過ぎ去った過去を分析して統計的（確率）方法によってある秩序を推論するだけだと前回話しました。だからといって客観的真理が存在しないという意味ではなく、確率は正確で客観的な結果を予測させることはできませんが、多くの意味のある結果を見せることが多いです。蓋然性があるからといって100%予測可能なわけではなく、統計的確率を通じて次第に掛度を修正して真理に到達する過程に過ぎません。人間の特徴の中で最も核心的な内容は未来を予測しシミュレーションする能力ですが、それが容易ではない理由です。私たちが知れば知るほど、この世の中はより複雑で変化に富んだ世の中だということを誰もが実感します。ビッグデータ時代を迎え、私たちは情報の津波の中で生きていきますが、何が核心なのか、何が有用な情報なのかを判断することさえ困難です。情報は溢れていますが、有用な情報の量はそれほど多くないということです。私たちは前回、脳科学で人間は物を見る時、ありのままを見るのではなく経験や記憶を通じてパターン化させて物を見るという点を話したことがあります。このような機能は人間の長所でありながら弱点となり、固定観念や信頼(錯覚)から抜け出せないようにすることで未来を予測するのに障害にもなります。この言葉の意味は、予測が難しい理由は自分自身の中にその原因があり、家庭や信頼を慎重に調べなければならないという意味です。 ● 私たちは何が人間の本性なのか、何が人間的なのかを自問せずに技術の発展に盲目的に頼るならば、手段が目的を代替する結果を迎えるということは自明なことでしょう。私たちが機械の奴隷になるという悲劇的な事態を防ぐためには何が人間らしく、何が必要なのかを調べて喪失していく人間性を回復することが何より重要だと思います。しかし、私たちがこれらの質問に果たして答えられるかは依然として疑問として残っています。 AIを具現するのに最も根本的で難しい点は、技術や機能の問題ではなく、まさにこのような質問でしょう。前回の時間に科学は変わると言いましたが、一体この言葉がどんな意味を持つのかもう少し深く考えてみる必要があると思います。私たちは人間自身を助けるために科学を作りました。科学が人間のためのものなら、人間が何を考えて望むのかを調べなければならないでしょう。しかし、私たちが何を望んでいるのかを正確に説明することは容易ではありません。歴史的に何が人間にとって有益なのかは、その時代によって変わってきました。歴史が変わるのは人間の考えが変わるからで、考えが変わる理由は①自然がそれだけ複雑な変数を持っていて②人間の心も完全ではなく変化に富むからであり③常に新しいことを追求して解決するのが人間だからです。多様で複雑な自然の変数の中で多様な反応を見せるのが人間の特質です。他の動物もこのような機能を持っていますが、非常に制限的で人間についていくことはできません。 ● 人間が他の存在と異なる明確な特徴は、環境を改造して人為的環境を作るという点ですが、その中で最も独特な能力はまさに道具(機械)を作るという事実でしょう。 AIを具現しようとすることも結果的に一つのツールを作る延長線上にあります。しかし、そのような独特の能力にもかかわらず、人間というそのものの中に多くの制約を持っています。 ① 人間は自分自身を理解できず、②完全な判断ができず、③自然の多様な変数によって環境に対応して変化できる領域も無限であると考えられます。それで人間がある存在だと規定したり、どうならなければならないという考えは現在与えられた環境の中で人間中心の考えに過ぎず、絶対的な意味があることではないという考えです。知能と人間らしさの定義そのものが社会的、技術的、経済的、脈絡の変化によって変化するというのが今日のほとんどの学者たちの見解のようです。歴史的にも価値は変わってきており、またこれまで生命科学で明らかにした結果がそれをよく物語っていると思います。すでに見たように、人間は不完全なので、人間の考えも不完全で、随時変化するのです。これは人工知能という言葉を理解するための一つの出発点です。① 私たちは自分の中に何が私たちを統制するのかさえ分からない。② 理性の中心である自我というものは存在しない。人工知能でも強い人工知能を区分する時に自意識という用語を使いますが、自分が思考の主体であることを認識することを意味し、具体的に自我の根拠を語るのではなく、ニューロンの反応強度によって決定されるものを私たちは自我が選択して決めるように感じるだけです。③ 量子力学では、この世の万物が不確定性の原理に従って築造されているという点は、相互関係を通じて無限に変わることができることを意味します。これらの事実は、人間の思考が絶対的な判断基準にはならないことを意味します。特に、すべての宇宙と物が相互連結されていて相互影響をやりとりするため、固定された事実はこの世に何もないということを私たちはよく知っています。動く船に乗って動く物を見るのです。このような中でも私たちにできる唯一のことは、知性を通じて理解できないため、ある蓋然性を探して努力するしかありません。今日、人間の神経網を模倣して強い人工知能を具現しようと努力していますが、人間の脳の機能を（860億個のニューロンと100兆個のシナプス）コンピュータ言語に変換して人工知能の中にすべて組み込んでも、果たして本物の人間と同じ機能を具現できるかはまだ誰にも分からず、もしかしたら永遠に不可能な幻想かもしれません。 AIに対する過度な楽観と悲観は私たちにあまり役に立たないという考えです。 ※ 強い人工知能人の能力は個人によって異なります。記憶力、計算能力、直観力、推理力、想像力、共感力など数え切れないほど多いが、これを通称して知能と表現したりします。多くの人が自動化された技術を人工知能と言う場合が多いですが、実際には人工知能とは人間が持つこのような能力はもちろん、特に機械が人のように自我を感じて主体的に考えるか、それとも入力された条件によって自動的に反応するかに区分します。つまり、コンピュータが自分自身に対する意識や自我という観念がある場合を強い人工知能と表現します。このような区分基準から見て、真の人工知能とはまだ現れていません。このような知能を具現するためには、人間の知的作用がどのような原理によって作動するのかを十分に理解してこそ可能ですが、一般生物学領域でも人間が他の動物に比べて知的能力がはるかに高い理由を突き止められています。人間がどんな存在なのかも知らず、人間に似た人工知能を開発するということ自体が論理に合いません。それで私たちが知っている人工知能は弱い人工知能や自動化技術に過ぎず、本当の人工知能はまだ遠いです。振り子人工知能を具現するためには、人間の頭脳がどのように作動するのか、その原理を完全に理解した上で可能だと思います。人間の脳のネットワークを全てコンピューターの中に入れる計画がヨーロッパとアメリカで盛んに進行中ですが、原理に対する理解なしに物理的な組織網を複製するとしても強い人工知能が現れるかは未知数だと思います。しかし、弱い人工知能だとしても、少なくとも計算能力は人間の能力を超えるため、未来社会は強い人工知能よりは弱い人工知能をどれだけよく利用するかによって自分の能力や社会的位置が左右されると思います。短期的に見れば弱い人工知能が私たちの生活を便利にしてくれることは明確に見えますし、長期的に見れば現在のコンピュータシステムとしては人間の脳をシミュレーションできるほどの高性能を維持することは難しく、量子コンピュータが商用化されれば新しい局面を迎えると推測しています。しかし、優秀なコンピューターが導入されるそれでも人間の脳を物理的な方法で理解するのが果たして妥当かという問題は依然として疑問に残ることもあります。 ● 人間の考え方がどのような特定地点に到達したり、進化を完成させるどんな段階があるかはわかりませんが、新しい考え方で従来とは違う何かになっていくのは明らかな事実のようです。例えば45億年前に地球が生成された時に、最初に物質があり、そして単細胞生物が発生し、次第に複雑な多細胞生命体に進化してきたという事実はほとんどの科学者が認める事実です。このように私たちの考えは肉体を進化させ、より複雑で繊細な機能をする生命体に発展しています。もちろん進化論では自然選択が進歩という概念とは距離がありますが、現実的に見ればほとんどの生物が多様で複雑な機能を発展させ環境に適応しようとしているという事実は否定できません。 ● 科学とは理性と論理、そして合理的な思考を通じて得た知識をいい、自然を探求する過程で私たちはこれらの道具を選択しましたが、自然の無限変数はこのような方法が唯一なのか、それとも有効なのか

4. 克服すべき課題と限界①AIとの関係運営者は率直に言って、AIも人間のために作るものであり、機械が人間に追いついたり超越するよりも人間が人間を超越することに関心が高いです。進化は短時間で起きるものではないので、私たちが即時的な変化を期待するのは難しいですが、人間は脳の使用可能領域に比べて1/100も使わないというアインシュタイン(Albert Einstein, 1879~1955)の言葉を思い出してみると、私たちが変えられる領域はいくらでも存在すると思います。多くの人がそれを望んでいますが、仕方ないという信念のためにそれを科学的に探求することさえ不満に思う場合が多く、私たちが説明できない超越的な現象を宗教または神秘という名前で排斥しているだけです。宗教は人間の能力が及ばない状況に対する渇望を表現するだけで、それが事実(科学)ではないということを言っているのではないと思います。それが神であれ真理であれ、何らかの秩序が存在するからです。地球上に人間として生まれ、超越的な人生を送った人は無数にいます。私たちは宗教を離れ、彼らの超越的な生活を畏敬するので、敬いながら恐れています。 AIや科学技術がなければ、私たちの生活が不幸になるわけではなく、強い人工知能が現実化したとしても幸せになるという保障はありません。重要な点はAIとどんな関係を結ぶかが重要だと思います。 ② 恐怖の克服、私たちがAIを作る理由は人間の本来的な特性、すなわち不安を解消し、新しいものを作り、より価値のあるものを追求するために道具を作ることの延長線上にあります。もっと良かったり価値のあることが何かを今すぐ知ることはできなくても、それを追求して訪ねて行くのが人間のようです。自然の原理を人間の知性で解くことができなければ、AIと関連してユートピアやディストピアを論じる前にAIがなぜ私たちに必要なのかを先に考えるのがより根本的で価値のある考えだと思います。コンピュータの発展は、人間が設定した目標を達成するために必要な演算能力を拡張するだけで、恐れることは何もないと思います。技術と機能自体が恐ろしいのではなく、どのように人間のために有用に利用するかという問題があるだけです。私たちは常に変化は存在なので、今日の判断が間違っていても、明日新しく有用な情報とデータが蓄積されることによって判断をアップグレードさせれば、もう少し真理に近づくことができるでしょう。 ③ 強い人工知能の具現コンピューターは、人間が指示したことをするだけであり、人間が設定した目標を達成する方法を学ぶだけです。コンピューターは問題を提起したり、自分で目標を立てることができず、目標を修正しようとする意図もありません。また、目標を達成したからといって喜んだり失敗したと悲しむこともありません。特にAIは人間の言語を理解していません。考える機械でも人間が入力したデータに基づいて行われるため、人間がデータをどのように入力するかによって変わり、自分勝手に行動しません。機械学習をしても人間の考えをそのまま表現するにはあまりにもみすぼらしいです。私たちの言語は同じ用語を使用しても脈絡や雰囲気によってその意味が変わり、行間の意味だということをコンピューターが読むことはできません。ディープラーニングは似たような意味を持つ単語を似た数字で表現できるため、類似した意味を持つ単語を判別することはできますが、人間の考えを正確に反映できない理由は、人間が使う言語は人間が考える数多くの思考や感じの一部だけを表現するのに過ぎず、言語と意識間の距離をコンピューターが感知することは不可能です。さらに、人間も言葉と意図が違って誤解を招くことが非常に多いです。人間の言語をすべてデータ化したとしても、人間の考え（意識）を全て複製することは極めて難しい問題だと思います。私たちが他の人と疎通する方法は言葉と文を使用し、対話も強弱、韻律、場所、置かれている状況、表情、口の形、ジェスチャー、同音異義語などすべてのメッセージを総合的に判断します。現在、各分野別にこのような部分を解決する技術が非常に精巧になっていますが、強い人工知能という立場から見ればまだ初心者段階に過ぎません。人間の言語をコンピュータに入力するには、0 と 1 というバイナリを使用します。二進法を利用してすべての計算はもちろん、情報の概念を数学的に定義できるようにした人がまさに米国の数学者クロード·シャノン(Claude Shannon, 1916~2001)です。 0 と 1 の間の数字は 0.1 から始まり無限です。コンピュータでは、私たちはこれらの単位をビットと表現します。単語を数字で表現するということは、単語が持つ意味からそれぞれの特徴を抽出して数字で表現することです。単語それぞれの特徴を抽出して数値化し、似たような姿を見つけるようにするのですね。同様に訪れるということは、データを増加させて確率を増加させるという意味です。単語の意味が似ていることを数字で表現した値が言語が話す実際のものとどれだけ近いかを判断させてくれます。このように単語を数字に切り替えることをベクトル(Vector)といいます。そのため、コンピュータは数学的に論理を持たない抽象的なものは計算できず、数字を計算することはコンピュータが最も得意とすることです。しかし、人間が使う自然言語をすべて数値化するということは事実上難しい問題であるだけでなく、言語を越える人間の考えを全て機械に搭載するということはより難しい問題です。このような点でAIが人間のように見えることはあっても、人間を完全に複製した強い人工知能の未来は非常に遠そうです。 ④ 社会的な問題言語や事物の特徴を多く抽出すれば良いと思うが、実は特徴がもう一つ増える度に必要なデータは幾何級数的に増え、逆にデータが不足するときちんと特徴を抽出できず、むしろ能力が落ちる呪いとして現れると言ったのに。これを次元の呪い(Curse of Dimensionality)といいます。データが多く蓄積されるほど、はるかに精巧で豊富な機能を実現できますが、データが多いとどこで問題になるのかを把握するのが難しく、システムもまた膨大な容量が必要です。そのため、数多くのデータが蓄積されれば、コンピューターが推論した結果がどのように現れるかは、人間が予測できないことが発生する可能性があるという意味です。それで強いAIを具現することが技術的に可能だとしても予測できない結果が出れば、これは社会的な問題を引き起こす可能性があるということを意味し、社会的な問題は別途の議論が必要だと思います。つまり、人工知能の初期にはシステムがなぜそのような結果を導き出したのか理由を説明できなければならないという解釈可能性を非常に重要視していましたが、今の人工知能はもはや人間が解釈できる規則を経て結論に到達するものではないという点です。結果に対する解釈が不可能なら、私たちが人工知能を作る必要があるかどうかを検討してみなければなりません。私たちが懸念している点がまさにここにあると思います。このような現象が人間の脳でも同じ現象が起こります。つまり、私たちの意思を決定して判断するのは自我というものが存在して自ら選択するのではなく、私たちの意識の中にある各種経験や無意識のような考えの要素が環境の刺激によって偶然選択されるようにニューロンの刺激強度によって選択されるため、自分自身を知らないのと同じ現象だと考えられます。 5. 人工知能の未来物理学者スティーブン·ホーキング(Stephen William Hawking,1942~2018)は言うまでもなく【人工知能は人類の終末を招く恐れがある】。】と懸念の言葉を述べています。人工知能の無限な発展が可能であることを示唆すると同時に、人間を超越できることを暗示したものと見られます。このように科学者の中にも人間を超越するAIが現れるかについて楽観論と悲観論が対立しており、また多様な観点でAIを表現することもあります。米国の未来学者レイ·カーズワイルは彼の著書「特異点が来る」でAIの梅来についてショッキングな著述を出したりもしました。特異点(Signularity)とは、機械の知能が人間の知能を突破する瞬間を意味する用語であり、この時になると機械がどのような意図を持っているのかをあらかじめ知ることができないため、その時点以降の未来を予測することは不可能だと彼は主張します。 2029年までにチューリングテストを通過するコンピューターが出てくると予測し、特異点が到来する時期を2045年と予想しています。これに対してヒューバート·ドライパーズとジョン·ソルのようにコンピューターはその定義上、人間の言語を理解できないため、本当に賢い機械は原則として具現不可能だと反論する学者もいます。ブルース·マスリッシュ(Bruce Mazlish)は彼の著書【4番目の不連続】で、もし人間と同じ思考能力を備えた機械が到来する時に備えて、私たちは4番目の不連続を乗り越えなければならないと主張しています。私たちが作り出した被造物として機械を見下ろしながらも、一方でこれを恐れる態度から抜け出し、機械ともう少し対等で調和のとれた関係を結んでいくように努力しなければならないということです。これは最近流行っている技術倫理などの分野で強調している内容でもあります。このような考え方は、強いAIの実現可能性をめぐる哲学的議論に埋没するのではなく、人間と機械が関係を結ぶ現実的な問題にもう少し重きを置くべきだという意味と見られます。※ 4番目の不連続著者が言う不連続とは、人間が機械に比べて特権的な位置にあるという無意識の仮定が間違っていることを指摘しており、自然が連続的であることを意味し、不連続とは自然現象が連続的な関係にあるにもかかわらずこれを認めない思考をいい、例えば天体と地上の物体、生物と無生物などの大きな違いを強調する言葉だ。著者は人間の自尊心に加えられたこの3つの衝撃が人間を宇宙-動物界と区別した不連続(Discontinuity)的な思考に起因するため、このような思考を破り人間が自然の一部であり延長線上にあることを悟らせ、新しく現れる不連続性を克服しなければならないと主張します。マスリッシュの主張によると、人間は3つの不連続を経験し、ジン

인기글