AD HOC MORALIST

人間らしい生き方をめぐるさまざまな問題を現実に密着した形で取り上げます。

人工知能

Baxter on Location

 昨日、次のような記事を見つけた。

ロボット化する社員が企業の倫理的問題を招く

 ここで「ロボット化する社員」と呼ばれているのは、ある職場で設定されているルールに機械的に従うだけで、何のためにそのルールがあるのか、ルールに実際に従った場合、どのような事態が結果として惹き起こされるのか、などの点に考えが及ばない従業員のことである。マニュアルに盲従することにより、ロボットにかぎりなく近づくわけである。これに対し、この記事の筆者は、他からの指示を待ち、これを機械的に実行するだけではなく、何をなすべきなのか、自分で考えることが必要であることを主張している。

 とはいえ、この記事で述べられていることは、特に独創的なことでもなければ、新しいことでもない。むしろ、「何を今さら」という感想を持つ人の方が多いであろう。

 現代の社会では、ルールに対し(2つの意味で)機械的に(、つまり、機械のように正確に、そして、機械のように無反省に)従う人間は、きわめて有害で危険な存在と見なされている。自分の行動へと反省が向かわないため、悪をなしているという自覚のないまま、巨大な悪を産み出してしまうからである。これは、「悪の凡庸」(『イェルサレムのアイヒマン』)の名のもとでハンナ・アーレントが指摘したとおりである。

 ルールへの忠実な態度を要求する軍人や官僚の集団が先にあり、この集団が、ロボット化する従業員を産み出すのか、それとも、ロボット的なメンタリティ(?)の持ち主が集まって細かいルールを持つ組織を作り上げるのか、それはよくわからない。確かなことがあるとするなら、それは、ルールに機械のように従って行動する――だから、言われたこと以外は何もしない――従業員をコントロールするには、ソフトウェアのプログラミングのように、ルールを際限なく細かく記述しなければならないことになるが、このような措置は、従業員をますますロボット化することになる。

 しかし、一度ロボット化してしまった社員に対し、何をなすべきかを自分で考えるよう求めるなど、可能なのであろうか。私は疑わしく思う。自分自身をロボットに擬することにより何らかの利益に与ってきた人間、具体的には、自分で考えることを放棄し、機械のようにふるまう習慣を身につけることで生活の糧を得てきた者は、自分で考えるなどという面倒くさいことは、徹底的に忌避するはずだからである。

 細かいルールが記されたマニュアルを破棄し、原則を簡潔に記述するだけのものへとあらためれば、従業員は、間違いなく混乱に陥り、組織はアノミーを避けられない。なぜなら、示されているのが抽象的な原則だけであるかぎり、この原則と個別の事例をつなぐ「中間原理」のようなものを自分で見つける作業がどうしても必要になるが、「思考」をもっとも要求するのは、この「中間原理」を見つける作業だからである。

 たとえば、ある飲食店に「客が満足するような料理を出す」という原則があるとする。この原則のもと、ある客がメニューにない料理を注文したとき、客の要求にどのように応えるかは、それぞれの従業員が決めなければならない。これが原則と個別の事例のあいだを媒介する「中間原理」であるが、この中間原理の内容はつねに同じではなく、状況により変化するものである。だから、「メニューにない料理を客から要求されたらどうするか」を問い、マニュアルに慣れた従業員に思考実験を促しても、大抵の場合、戻ってくる答えは「どうでもいい」であろう。

 また、客がメニューにない料理を実際に注文したら、接客する従業員は――「メニューにない料理は作らない」ことがマニュアルに明記されていれば、客の注文をその場で断るであろうが、マニュアルがない場合――この要求をそのまま別の従業員に丸投げし、この従業員はさらに別の従業員へとこれを丸投げし……、客への「応答」(response) は、無際限に繰り延べられることになるように思われる。

 マニュアルに従って機械のようにふるまうとは、「応答可能性=責任」(responsibility) を免除されるということであり、労働条件がどれほど劣悪であっても、自分で考えないかぎり、最終的な「責任」を負わずに済むという点において気楽なのである。ただ、社員の「ロボット化」は、それほど遠くない将来に解消される問題であるような気もする。というのも、人工知能が広い範囲で実用化されれば、「ロボット化した社員」――つまり「人力のロボット」――は、本物のロボットによって置き換えられ、人間に残るのは、責任を負うという仕事だけになるはずだからである。

【関連する記事】


人工知能に決して奪われることがないのは「最終的な責任を負う仕事」 : アド・ホックな倫理学

人工知能が発達することにより人間の仕事が奪われるかも知れないという予想は、社会の中で広く受け容れられているものの1つである。 たしかに、社会の中には、機械の性能が向上するとともに姿を消す可能性のある仕事は少なくない。実際、歴史を振り返るなら、技術の進歩と


このエントリーをはてなブックマークに追加 mixiチェック Share on Tumblr Clip to Evernote

Metropolis (making off).

 ※注意:以下の文章は、道具一般の本質と性別の関係をテーマとするものであり、女性に対する差別を肯定、助長することを意図して書かれたものではない。

人工知能には、人間一般の模倣ではなく女性の模倣が期待されている

 人工知能というのは、それ自体としては生命を持たない機械を動かす技術またはその仕組みである。当然、人工知能の機構自体に性別はない。

 しかし、人工知能の開発や改良の方向、あるいは、人工知能に人間が期待する役割を考慮するなら、つまり、人間との関係という観点から眺めるなら、人工知能には明らかに性別があり、それは、女性であると考えることができる。

 人間にとっての何らかの利益が想定されているのでなければ、人工知能が開発されることはなく、これが使われることもないはずである。そして、人工知能に関しあらかじめ想定されていた利益とは、忠実な道具が人間に与えるはずの利益、つまり、手間を省き、労働を代行することにより、人間の生活を便利なものに変えることである。レンブラントの贋作を描かせたり、囲碁やチェスで名人と対戦させたりするというのは、人工知能の性能を確かめるための実験であり、また、面白い遊びであるかも知れないとしても、社会が人工知能に対し本当に期待していることではない。

 そして、人工知能のこの道具としての性格は、本質的に「女性的」である。というのも、現在では――幸いにも事情は変化しつつあるけれども――この何十年かの社会が女性に期待してきたことは、便利な道具であることだったからである。

女性的なものは、現実への密着を特徴とする

 実際、男性中心の伝統的な社会の性的役割分業において、特に生産の場面において、「女性的」なるものの本質は「器用」にあると考えられてきた。つまり、女性に求められてきたのは、現実に密着することにより、男性から受け取った大雑把な略画の細部を埋め、これを密画へと変換する作業だったのである。このような作業では、知識や意欲に「ムラ」がなく、すべてを満遍なく処理する能力が絶対に必要である。実際、女性は、製品の仕上げと点検、給仕、運転、経理、校正など、好き嫌いに関係なく、中程度の技術と知識を浅く広く持つことが要求されるような作業に従事することが多かったように思われる。そして、まさにこのような作業、中程度の技術と知識を浅く広く満遍なく持ち、社会の生産活動に関してあらかじめ描かれた略画を密画へと仕上げて行くような役割を、現代の社会は機械、コンピューター、そして、人工知能に期待するようになっているのである。

 これは私の単なる偏見かも知れないが、人工知能、あるいは、人工知能を具えたアンドロイド(人造人間)を具体的に心に描くとき、女性が想起される場合が多いのではないかと思う。「アンドロイド」(android) は、古代ギリシア語で成人男性を意味する名詞aner(アネール)をもとに作られた言葉であり、語源に忠実に日本語に訳せば「大人の男っぽい生き物」となるから、アンドロイドの性別は、本来は男性でなければならないのであるが、実際には、女性のアンドロイドが想起されることが少なくない。現代の社会では、女性の仕事の多くが人工知能によって置き換え可能であると誰もが漠然と感じているからであるに違いない。

 今から2年ほど前、人工知能学会の機関誌の表紙に女性のアンドロイドが描かれ、これがネット上に否定的な反応を惹き起こしたことがある。この表紙と女性蔑視との関係については、私は判断を差し控えるが、人工知能の活用により、性的役割分業において女性に割り当てられてきた仕事、特に、多くの女性にとっては不本意な仕方で割り当てられてきた仕事の多くが人工知能によって置き換えられるようになる可能性が高いことは確かである。

「ロボットは奴隷ではない」擁護する意見も

 ところで、女性の場合と同じように、伝統的社会の性的役割分業では、男性に期待されている役割がある。ただ、この役割の多くは、産業革命以降、20世紀ある時期まで、機械によって積極的に置き換えられてきた。というのも、男性に固有とされてきた仕事の大半は、いわゆる「力仕事」だったからである。実際、21世紀前半の現在、機械によって置き換え可能であったものの大半は、すでに機械によって置き換えられている。しかし、それだけに、男性に固有の役割のうち、機械によって置き換えられなかった部分に人工知能が進出することは困難であるように思われる。というのも、機械化を免れた男性の男性らしさとは、「好い加減」である点だからである。

 好い加減であること、あるいは、ほどほどに手抜きすることが可能となるためには、現実世界を「雑」に眺めることができなければならないが、これは人工知能にはできない。「雑」には尺度がないからである。人工知能にできることは、現実に密着し、これを一切の手抜きなしにトレースし、これを丁寧に制御することだけである。(だから、「雑」の基準を定めれば、人工知能にも世界を「雑」に眺めることができるようになる。ただ、この場合の「雑」は、「密画をある観点から省略することにより作られた略画の雑」、つまり「精密な雑」(?)であり、本当の意味での「雑」ではない。)人類の未来を担うのが人工知能の丁寧な仕事であるのか、それとも、機械によって削り取られた男性らしさの残滓としての「好い加減」であるのか、これはよくわからない。しかし、人工知能によって制御される社会が、好い加減を許さない鬱陶しい社会となることは間違いないように思われるのである。


class

 人工知能が発達することにより人間の仕事が奪われるかも知れないという予想は、社会の中で広く受け容れられているものの1つである。

 たしかに、社会の中には、機械の性能が向上するとともに姿を消す可能性のある仕事は少なくない。実際、歴史を振り返るなら、技術の進歩とともに不要となった仕事はたくさんある。単純な肉体労働や事務作業というのは、「今は機械にはできない」仕事であるにすぎず――遠いか近いかは仕事の内容によって異なるとしても――将来のいずれかの時期に同じ作業に従事する機械が開発され、人間の仕事ではなくなるはずである。

 しかしながら、「今は機械にはできない」のではなく、「機械には決してできない」仕事というものがある。それは、直接に他人に対して責任をとるタイプの仕事である。

 もちろん、たとえば建設現場で足場を組んだり、オフィスで書類をコピーしたりするような作業に従事する者は、間接的には他人に対して責任を負っている。しかし、それは「業務を指示どおりに遂行する」責任であり、この意味において限定的な責任である。

 これに対し、社会には、「どう責任をとればよいかは相手により異なる」というタイプの仕事がある。たとえば、民間企業の場合、製品開発や市場調査、単なる広告や宣伝については、そのかなりの部分を人工知能に代行させることができる。また、医療や法律の分野でも、単なる情報の整理や書類の作成は、機械でも担うことができる。また、「グーグル・ニュース」がすべて機械によって編集されているという事実が雄弁に物語るように、新聞についても、近い将来、記事を配列し整理し配布する作業は、人間を必要としなくなるはずである。

 しかし、もっとも狭い意味での「営業」は、人工知能には担うことができない。これは、企業活動を構成する要素の中で、最後まで人間によって担われるはずである。それは「今はまだ」人工知能には無理なのではない。営業の本質が他人の話に耳を傾け、他人を説得することにあるかぎり、これは、人工知能には「決して」担うことができない。なぜなら、これは、人間の反応、具体的には満足/不満足に責任を負うものだからである。営業の仕事を人工知能に置き換えるなら、今度は、営業の成否についいて、人工知能を開発した者が責任を負うことになる。

 同じように、小学校から高等学校までの教員――さらに、幼稚園の教諭、あるいは保育士など――もまた、人工知能が代わることのできないものである。教員の仕事が「知識を提供すること」に尽きるのであれば、人工知能が教師の役割を担うことは容易であろう。しかし、実際の教員の仕事は、生徒や児童に対する「指導」であり、これは、子ども一人ひとりを観察し、いつ、どのような状況のもとで、誰に対し、どのような態度をとるか、その場で個別に決断することによってしか成り立たないものである。(人工知能にできることがあるとすれば、膨大な量のアドバイスをティップスとして蓄積し、状況に応じてこれを「提案」することであろうが、これは「指導」でも「教育」でもない。)そして、その「指導」は、指導する側が最終的な責任を負う。最終的な責任を負う仕事は、人工知能がどれほど発達しても、決してなくなることはない。(そもそも、人工知能には「人格」がないから、責任は一切負うことができない。)

 とはいえ、最終的な責任を負う者には仕事を人工知能に奪われるおそれがないことは確かであるとしても、このような仕事がつねに非常に大きなストレスを与えることもまた事実である。たとえば、教員なら、自分の指導に従わない生徒一人ひとりに向かい合い、関係を作って行くことがストレスになるばかりではない。上司、同僚、保護者などが突きつける要求を考慮することからも逃れることができない。実際、最近20年のあいだに新任の教員が少なくとも10人自殺しているようである。

新人教員 10年で少なくとも20人が自殺 | NHKニュース

 また、文部科学省は、2015年の1年間に精神疾患で休職した教員が5009人になるという調査の結果を公表している。この事実は、学校における教員のストレスの大きさを示している。

文科省調査:精神疾患で休職教員5009人 15年度 - 毎日新聞

 当然、民間企業で営業に従事する者もまた、客の気まぐれや手違いに振り回され、自分の予定や計画が狂い、これがストレスの原因になることがあるであろう。

 人工知能によって奪われない仕事は、最終的な責任を負う仕事である。しかし、それは、対人関係に由来する烈しいストレスにさらされる仕事であり、ことによると、給与に見合わない仕事、好んで就きたいと思う者が少ない仕事ということになるのかも知れない。


このエントリーをはてなブックマークに追加 mixiチェック Share on Tumblr Clip to Evernote

Image from page 440 of

 これは、下の記事の続きである。


人工知能の限界 あるいは遊戯のオリジナリティ : アド・ホックな倫理学

人工知能の能力は、人間に「できた」ことを精密に模倣する能力である 人工知能がどのような影響を社会に与えることになるのか、正確に予測することは困難である。しかし、現在の世界において「職業」と見なされているもののある部分が人工知能によって置き換えられるのは間


 理論的には、人生全体を遊戯にすることは簡単である。自分が遊戯――ゲームではない――として専念することができるようなものを人生の中心に置き、生活の残りの部分を、この遊戯に奉仕するように組み立てればよい。「遊戯として専念することができるもの」とは、他の何か――たとえば生活の糧を得ること――の手段であるかぎりにおいて意味を持つものではなく、それ自体が目的であるような活動である。

 しかし、「遊戯として専念することができるようなものを見つけ、これを中心に生活を組み立てればよい」という見解は、少なくとも2つの反論をただちに惹き起こすはずである。すなわち、

    1. 「遊戯として専念することができるようなものは仕事とは言えないし、そうでなければ食って行けない」という反論、そして、
    2. 「遊戯として専念することができて、それ自体が目的となるようなものを見つけるなど不可能である」という反論

である。たしかに、少なくとも現在の社会では、この反論は決して誤りではない。

 とはいえ、人工知能が高度に進歩し、多くの職業が人工知能によって担われ、言葉の本来の意味における「職業」ではなくなるとき、それにもかかわらず、人工知能には、私たちが実際に遊戯として専念しているものに関し、これを代理することは不可能である。

 現在では、職業というのは、遊戯となりうるどうかを基準として選ばれ、評価されているのではなく、生活の糧を得るための効率、あるいは、社会的な影響を基準として選ばれることが少なくない。しかし、社会における人工知能の役割が大きくなるとともに、職業選択の基準や職業の評価もまた、おのずから変化するはずであり、最終的に、遊戯として専念することができるようなものを何も持たない者は、生活の糧を何によって得ていたとしても、社会における位置を失うことを避けられないであろう。

 そもそも、人生というのは、何か人生の外部にある何かに奉仕するものではなく、それ自体が目的と見なされるべきものである。人生の外部には何もないのである。もちろん、「人生の目的」なるものを設定することは可能であり、また、好ましいことでもある。ただ、人生の外部に目的を設定することは、人生のそれ自体としての価値の否定に他ならない。「人生の目的」は、みずからの人生の内部に――必ず恣意も「自分だけのために」ではなく――求められるべきものであり、それにより初めて、人生は、みずからを目的とするもの、つまり遊戯となる。

 人工知能が社会において担う役割が大きくなることは、社会生活の外見をごく表面的に変化させるばかりではない。近い将来のことはよくわからないが、少なくとも遠い将来――何十年、何百年も先――職業や仕事というものの観念は、現在とはまったく異なるものになっているはずである。


このエントリーをはてなブックマークに追加 mixiチェック Share on Tumblr Clip to Evernote

Fritz Lang - Metropolis still 1

人工知能の能力は、人間に「できた」ことを精密に模倣する能力である

 人工知能がどのような影響を社会に与えることになるのか、正確に予測することは困難である。しかし、現在の世界において「職業」と見なされているもののある部分が人工知能によって置き換えられるのは間違いないように思われる。

 人工知能によって置き換えられる可能性が高い職業について、さまざまな観点からさまざまな予測が試みられているようであるけれども、これもまた、正確な予測は困難である。ただ、人工知能の本質を考慮するなら、次の点は確かである。すなわち、仕事に携わる者の個性を成果に反映させることを求められないような職業は基本的にすべて人工知能に置き換えられる可能性がある。求められるのが高度な知識や正確な技術にすぎないような仕事は、人間のするものとは見なされなくなるであろう。

 医師や法律家は、高度に知的な職業であるように見えるけれども、その業務内容のかなりの部分は、人工知能に奪われるはずである。たとえば、X線写真を読影して単純な怪我を治療したり、適切に投薬したりすることには、人間の個性などまったく要らないからである。遠い将来、技術を競うようなタイプの仕事には、もはや医師は必要とされず、医師の業務として残るのは、患者のケア――キュア(治療)ではなく――だけとなるに違いない。(だから、医師の場合とは異なり、看護師、ソーシャルワーカー、臨床心理士などの仕事の大半は、人工知能では置き換え不可能である。)法律家についても事情は同じである。「法律家なら誰がやっても同じ」であるような仕事は、人工知能によって置き換えられるはずである。

 以前に書いたように、人間に「できた」ことなら何でもするのが人工知能の本質である。つまり、人間がなしえたことを機械的に再現したり、これを組み合わせたりする能力に関するかぎり、人工知能は人間よりもすぐれているに違いない。しかし、人工知能には、人間に「できる」ことなら何でもできる能力が具わっているわけではない。というのも、人工知能には、独創性(オリジナリティ)が決定的に不足しているからである。つまり、本質的に新しいものを産み出すのは、人間だけなのである。


人工知能と「贋作の時代」の藝術作品 : アド・ホックな倫理学

しばらく前、精巧な贋作を大量に製作した人物のドキュメンタリーを観た。NHKオンデマンド | BS世界のドキュメンタリー シリーズ 芸術の秋 アートなドキュメンタリー 「贋(がん)作師 ベルトラッチ~超一級のニセモノ~」 この人物は、贋作が露見して逮捕、告訴さ



 もちろん、既存のものの組み合わせを「オリジナリティ」と呼ぶなら、人工知能にもオリジナルなものを産み出すことができると言えないことはないが、それは、表面的な目新しさにすぎない。人工知能が「作る」歌謡曲――厳密には、人工知能が歌謡曲を作るのではなく、人間が人工知能に歌謡曲を作らせるのであるが――がどれほど多くの聴衆を惹きつけるとしても、それは単なる見かけ上の新しさにとどまるのである。

オリジナリティは、学習の失敗によって生れるエラーではなく、遊戯のうちにあり、仕事を遊戯に変えるものである

 人工知能にはオリジナリティがないこと、したがって、オリジナリティあるいは「その人らしさ」が求められるようなタイプの仕事は人工知能によって置き換えられないことは、これまで繰り返し語られてきた。そして、この問題に関する支配的な見解は、オリジナリティの意味を、学習の失敗によって産み出されるものとして把握する。言い換えるなら、オリジナリティとは、人間の模倣能力が不正確であることが原因で発生する一種のエラーであると考えられていることになる。

 しかし、オリジナリティがエラーであるという主張は、必ずしも妥当ではないように思われる。たとえば、工藝、演藝、音楽、武術などにおける達人や名人は、すぐれた技能や技巧を披露することができるという理由によって「達人」や「名人」と呼ばれているわけではない。彼ら/彼女らが産み出すものには、彼ら/彼女らの個性が反映されており、極められた「」に反映された個性が評価されているのである。

 とはいえ、「藝」の上達の道は、素人には一直線であるように見えるけれども、実際には、上達するほど、「どちらに向かうと前進したことになるのか」明らかではなくなる。そして、このようなレベルに辿りついた者たちは、「達人」「名人」などと呼ばれ、「三昧」と呼ぶことのできる境地で「藝」の上達のために試行錯誤を繰り返すことになるはずである。(だから、これは一種の「遊戯」である。)ここで発揮されるオリジナリティは、記述可能な到達点を基準として測定されたエラーなどではない。そもそも、「藝」には決まった到達点などないからである。

 同じことは、普通の仕事についても言うことができる。それ自体を目的とするふるまい、つまり「遊戯」になりうる職業、そして、遊戯が成果として評価されるような職業は、オリジナリティを要求されるがゆえに、人工知能によっては決して置き換えることができない。残念ながら、いわゆる「会社員」が担っている仕事のかなりの部分は、オリジナリティとは無縁のもの、成果を測定する明瞭な基準が定められているものである。(もちろん、設定された基準の中には、たとえば「売り上げ」のように、明瞭であるが正当性のハッキリしないものもある。)

 これらの仕事がすべて人工知能に委ねられるとき、すべての仕事は遊戯となる。そして、各人は、みずからの職業を――期待される給与ではなく――遊戯として専念しうるかどうかにもとづいて選択することになるに違いない。


↑このページのトップヘ