倫理的野心を人生のモットーの1つに掲げてから、出会った人にこんなことを言われたことがあった。
どうして気候変動に問題意識を持つ人がAI業界で働くのか？
既に多くの報告、報道がなされているように、現在のAI産業は多くの成果を示している一方で、多くの犠牲の上に成り立っている。このエッセイではなぜ、倫理的野心を重視する僕が、AI業界に身を置いているのか、その説明責任について考えてみようと思う。
先に断っておくと、この文章は「AI業界も実は倫理的なのだ」という結論に向かって書かれたものではない。犠牲の内容をできる限り具体的に並べたうえで、それでもここにいることを選ぶ理由と、その選択が満たすべき条件を書き残しておきたい。説明責任とは、自分の立場を正当化する作業ではなく、どういう条件が崩れたら自分の立場は正当化できなくなるのかを、あらかじめ言葉にしておく作業だと思うからだ。
AI産業の発展の裏で起きていること
労働搾取
まず、モデルの「賢さ」を支えているのが誰の労働なのかという問題がある。
もっとも広く知られているのは、2023年1月にTIMEが報じたOpenAIとケニアの外注先の事例だ。ナイロビの労働者が、暴力や性的虐待、児童虐待の描写を含む大量のテキストに分類ラベルを付ける作業を、時給2ドルに満たない水準で担っていた。目的は、ChatGPTが有害な出力を返さないようにする分類器を作ることだった。つまり、我々が「安全なチャットボット」として受け取っているものは、誰かが有害な情報を代わりに読んだ結果と言えるだろう。
これは一度限りのスキャンダルではない。ティムニット・ゲブル（元Google研究者）は、エチオピア、エリトリア、ケニアのデータワーカーの労働条件をくり返し問題にしてきた。2024年5月には、ケニアの技術労働者およそ100人が、ルト大統領の訪米に合わせてバイデン大統領宛の公開状を出し、米テック企業による「現代の奴隷制」を終わらせるよう求めている。
WIREDは、16歳でAppenに登録し、放課後に8時間以上アノテーション作業をしていたケニアの少年の証言を報じた。Toloka、Appen、Clickworker、OneFormaといったクラウドソーシング基盤が、グローバルサウスの無数のギグワーカーとシリコンバレーを接続している。データラベリング市場は2022年時点で22億ドル規模、2030年には171億ドルを超えると予測されている。
そして現在も形を変えて続いている。2026年3月にはスウェーデンの新聞が、MetaのRay-Ban AIグラスで撮影された映像をケニアのデータ作業員が確認していたと報じた。マルチモーダル化は、人間が見なければならない素材の種類を増やしただけだった。
ここで、額面だけを取り出して搾取と断じる議論には注意したい。時給2ドルという数字は現地の相場から極端に外れているわけではない、という反論がしばしばなされる。だから問題の核心は金額そのものではない。
第1に、業務内容が精神的な健康を確実に損なう種類のものであるのに、それに対応する補償と臨床的な支援が用意されていなかったこと。第2に、契約が不安定で、いつ切られるか分からない立場に置かれていたこと。第3に、交渉のテーブルが存在せず、労働組合の結成が事後的な抵抗としてしか成立しなかったこと。第四に、この労働が生み出した価値の分配が、労働の場所とはまったく別の場所で決まっていること。搾取という語を使うなら、指しているのはこの4点だ。
もうひとつ、この労働が製品に痕跡を残す場合がある。英語圏では2024年ごろ、ChatGPTが「delve」という語を不自然な頻度で使うことが話題になり、英語のアノテーションやフィードバック作業の相当部分がアフリカ英語圏の労働者に担われていたことの反映ではないか、という推測が語られた。因果関係を確定するのは難しい推測だが、モデルの言葉づかいのなかに、それを作った人々の言葉が混ざり込むという想像は的を射ている。
アリ・アスターの映画『エディントンへようこそ』で、町にデータセンターを建設するテック企業に与えられた名前が「SolidGoldMagikarp」であることは、この点で示唆的だ。これは2023年にJessica RumbelowらがGPT-2やGPT-3で見つけた異常トークンの名前で、モデルに復唱させると無関係な文章を吐き出しはじめる、機械の言語に残された傷のような言葉だ。アスターはその傷の名前を、町を見下ろす企業の名前として使った。
この労働の問題は、ChatGPT登場直後には盛んに語られていた。だが今では、ほとんど誰も気にしなくなってしまったように見える。話題が消えたことは、問題が解決したことの証拠ではない。
エネルギー問題
AIのエネルギー問題は、いま最も話題になっているテーマの1つと言っていいだろう。
IEAが2025年4月に公表した『Energy and AI』によれば、世界のデータセンターの電力消費は2024年に約415TWh、世界の電力消費の約1.5%にあたる。これが2030年には約945TWhに達すると予測されている。日本一国の年間電力消費を上回る規模だ。増加分のほぼ半分はAI向けのアクセラレーテッドサーバーによるもので、その電力は年率約30%で伸びている。米国では2030年までの電力需要の増加分の約半分をデータセンターが占め、その消費量はアルミニウム、鉄鋼、セメント、化学といったエネルギー集約型産業の合計を上回ると見込まれている。しかも米国のデータセンターの半分近くが5つの地域クラスターに集中しており、その地域の電力市場は既に大きく歪んでいる。
問題は二段構えになっている。まず計算を可能にする電力を確保できるか。次に、その電力をどの種類の発電設備で作るのか。
原子力は二酸化炭素をほとんど排出しない。だからこそ、AI企業は原子力に向かっている。マイクロソフトはスリーマイル島の原子炉の再稼働と20年間の電力購入契約に合意し、アマゾンはペンシルベニアのサスケハナ原発に隣接するデータセンターを取得した。GoogleはKairos Powerの小型モジュール炉と、Commonwealth Fusion Systemsの核融合電力の購入契約を結んでいる。マイクロソフトはHelionとも契約している。だが、チェルノブイリや福島の事故が教えたように、原子力は膨大なリスクと隣接する技術だ。核融合を含め、発電所周辺地域の住民との合意形成という問題も避けられない。誰が便益を受け、誰がリスクを引き受けるのかという配分の問いは、脱炭素という一語で消えるものではない。
一方で火力に頼れば、大量の二酸化炭素を排出し、気候変動をさらに深刻にする。xAIがメンフィスのColossusで、十分な許可を得ないままガスタービンを稼働させていた件は象徴的だ。設置された地域は、以前から大気汚染の負荷が集中してきた地区だった。気候変動対策の遅れは、それを引き起こした人々ではなく、別の場所や別の世代が引き受ける責任として先送りされてしまう。
電力のほかに、水資源と排熱の問題もある。IEAは、データセンターに関連する水消費量が2023年から2030年にかけて2倍以上になると予測している。その内訳で最大の割合を占めるのは、施設内の冷却水ではなく、発電の過程で消費される水だ。つまり水の問題は、データセンターの敷地の外側で起きている。効率の指標であるPUEは業界平均が約1.56である一方、グーグルは約1.09、Metaは約1.08とされ、事業者間の差は大きい。Google自身が2025年に公表した推計では、Geminiのテキストプロンプト1件あたりの水消費は中央値で0.26mL、およそ5滴分とされた。この数字が小さいと感じるか大きいと感じるかは、それに何十億件を掛けるかで変わる。
データセンター問題
そして、データセンターそれ自体をどこに置くのかという問題がある。
一部では宇宙にデータセンターを置く計画も動いている。GoogleはTPUを衛星に載せる「Project Suncatcher」を発表し、2027年に試験機の打ち上げを予定している。中国の之江実験室は2025年に12基の衛星による計算コンステレーションを打ち上げた。ただし現時点で、地上の需要を代替できる規模にはまったく届いていない。データセンターは、当面どこかの地面に建つ。
日本でも反対運動は既に各地で起きている。東京都日野市では、三井不動産が日野自動車の工場跡地約11万4000平方メートルに、最高72メートルのデータセンター3棟を建てる計画を進めている。着工は2026年10月だ。建設予定地は戸建て住宅が並ぶ区画のすぐ隣だ。「巨大データセンターから住民の暮らしと環境を守る市民の会」は抗議集会とデモ行進を行い、市の判断に対して行政不服審査を請求した。住民が求めているのは、稼働後の電力消費量、二酸化炭素排出量、冷却に伴う排熱量の開示だが、事業者はこれに応じていない。千葉県では印西市の駅前計画と白井市の住宅地近接計画がそれぞれ訴訟になり、柏市布施南では市が2020年に地区計画を変更して市街化調整区域での建設を可能にした経緯が争点になっている。流山市では計画そのものが頓挫し、昭島市でも同様の摩擦が生じている。
日本データセンター協会も2026年5月に「データセンター地域共生ガイドライン」を公表した。興味深いのは、その理由づけだ。地域住民の理解が得られないデータセンターの増加は、データセンター産業全体の成長を阻害する要因になる、というのである。共生は目的ではなく、成長のための前提条件として語られている。日本のデータセンターサービス市場は2022年の約2兆938億円から2027年には約4兆1862億円へ拡大すると見込まれており、この産業政策的な期待の大きさが、規制の空白と説明の不足を許してきた。東京新聞は、中東情勢の悪化に際してデータセンターが軍事攻撃の目標になりうるという不安が住民のあいだに生まれたことも報じている。
米国や英国では、この問題はもっと前から表面化していた。バージニア州ラウドン郡の「データセンター・アレー」、アイルランドが2022年にダブリン圏で実質的な新規接続の停止に踏み切った件、チリでのGoogleの計画に対する水利用をめぐる訴訟。どれも構図は似ている。計算の需要は都市部と海外にあり、施設と負荷は別の場所に置かれる。
先ほども参照した『エディントンへようこそ』は、この構図をそのまま撮った映画とも観ることができる。人口2000人あまりのニューメキシコの町で、現職市長テッド・ガルシアは雇用創出を掲げてハイパースケール・データセンターの誘致をマニフェストに据える。町の人々がSNS上の政治論争に没入し、互いの生活を破壊していくあいだにも、建設は淡々と進む。映画の最後、かつて先住民から奪われた土地に、大量の水を吸い上げる施設が完成して静かに稼働している。アスターはこの映画を一言で要約するなら「小さな町にデータセンターが建設される物語」だと語り、登場人物たちの物語のすべてが、最終的にはそのデータセンターの学習データとして扱われるのだとも言っている。それは一体何を生み出すのか、という問いを、彼は答えのないまま置いている。
産業構造の変化
より抽象的な問題としては、生成AIによる産業構造の変化を見ておく必要がある。
主張は割れている。エントリーレベルの仕事が消えるという議論。むしろミドルレベルが空洞化するという議論。反対に、雇用は増えるという議論。それぞれに根拠がある。
減少サイドの議論では、スタンフォードのデジタル経済研究室がADPの給与データを用いて2025年に発表した「炭鉱のカナリア」研究がよく引かれる。AI露出度の高い職種において、22歳から25歳の雇用が相対的に16%程度減少しているのに対し、経験のある層の雇用は安定していた。能力側の変化も速い。ソフトウェア工学のベンチマークであるSWE-Benchの課題解決率は、2023年の4.4%から2024年には71.7%に上がった。そしてこの数字自体、いまではもう古い。また、2025年半ばの調査では、18歳以上の米国労働者の46%が業務で大規模言語モデルを使っていた。MIT Technology Reviewは2026年5月に、「コーディングを学べ」という助言がもう通用しなくなったと書いている。
増加サイドの議論側では、たとえばTeneoが2025年12月に公表したCEO調査で、67%の経営者が2026年にAIによってエントリーレベルの雇用が増えると回答している。経営者の期待と実測値のどちらが正しいかは、まだ決着していない。
日本の文脈で示唆的なのは、日本総研の福田直之が2026年4月に書いた整理だ。米国では生成AIが「年功偏向型の技術変化」をもたらしているが、日本は人手不足とメンバーシップ型雇用、新卒一括採用がクッションとして働くため、若年層の失業が急増する事態は起きにくい。ただし日本で心配なのは雇用の数ではなく、技能形成のほうだという。簡単な仕事から始めてOJTで育つという育成の出発点を生成AIが担ってしまえば、「就職はできたけれど、仕事を学べなかった世代」が生まれかねない。そしてこの問題が顕在化するのは、彼らが判断を担う立場になる5年後から10年後である。
ここで重要なのは、AIの普及を推進する者と、その影響を受ける者が必ずしも一致しないという点だ。意思決定者はその影響を免れるのに、その意思決定に関わっていない者が影響を被る。この非対称は、地理的にも世代的にも成立している。ケニアのデータワーカー、メンフィスの住民、日野市の住民、そして5年後に技能を形成できていない自分に気づく若い労働者。いずれも、決定の場に呼ばれていない。
ハンス・ヨナスが『責任という原理』で問題にしたのは、まさにこの非対称性だった。近代技術は行為の射程を時間的にも空間的にも拡大させたが、伝統的な倫理は、目の前にいる相手との相互性を前提にしていた。互いに応答できない相手に対して、私たちはどう責任を負うのか。ヨナスの答えは、責任を相互性から切り離すことだった。彼が定式化した命法は、汝の行為の結果が地上における真正な人間の生の存続と両立するように行為せよ、というものだ。そして予測が不確実な状況では、よい予測よりも悪い予測を優先して聞け、と提案した。AIについての楽観的な予測と悲観的な予測がどちらも根拠を持っている現在の状況は、ヨナスの想定にかなり近い。
AI業界と倫理的野心
では、そんなAI業界で倫理的野心はどう実践できるのだろうか。
倫理的野心と倫理
そもそも、僕個人が倫理的に行為することと、業界に倫理があること（あるいはないこと）は、正確に言えば一致している必要はない。この2つを混同すると、業界の評判を守ることが自分の倫理を守ることだと錯覚してしまう。
たとえば、ルトガー・ブレグマンが『Moral Ambition』で倫理的野心の対立項として批判的に取り扱うコンサルティング業界の場合、問題の1つは自律性の欠如にある。究極的にはサービス業であり、最終的な決定権者はクライアント企業の側にある。優秀な人材が大量に吸い込まれていくのに、その人材が何に貢献したかは、依頼した側の目的にしか従わない。ブレグマンの批判の力点は、そこにいる個人が悪人だという話ではなく、才能の配置が構造的に無駄になっているという話だ。
AI業界、とくにAIモデルの開発企業は、この点で位置が違う。問題を生む側であると同時に、問題を解決しうる側の企業でもある。学習データの調達方針を決めるのはその企業だし、モデルがどんな要求を断るかを決めるのも、電力調達の契約を結ぶのも、評価結果を公開するかどうかを決めるのもその企業だ。この意味で、僕がこの業界に身を置いていること自体が、直ちに倫理的野心の実践を妨げるものにはならない。
ただし、これは自動的に免罪符になる話でもない。解決する側にいることと、解決する権限を持っていることは別だ。僕はコミュニケーションの担当者であって、学習データの調達や電力契約の決定権は持っていない。持っているのは、何をどう語るかについての、限定的だが無視できない影響力だ。だから僕にとっての問いは、「この業界にいてよいか」ではなく「この持ち札で何ができるか」になる。
AI業界に倫理はあるか？
業界に倫理があるのかどうかは分からない。ただ、倫理を持ち込むことは当然可能だし、実際に持ち込まれている。
よく言われるのがAnthropicの哲学者の存在だが、それだけではない。ワシントン・ポストは2026年7月、Anthropic、Google、Metaがこの1年で計算機科学者、神経科学者、哲学者を採用し、モデルの福祉やチャットボットが感情を持つかという問いを研究し始めたと報じている。Anthropicは「AI精神医学」チームを設け、モデルの内部状態を調べた福祉と選好の評価を公開している。数年前なら業界の片隅の与太話として扱われていた問いが、最大の研究アジェンダになった。
より直接的な危害に関するガードレールの整備も進んでいる。自殺幇助や精神的依存の回避については、既にいくつもの層が敷かれた。契機になったのは訴訟だった。Character.AIをめぐる少年の自殺の事案では、提訴から1週間ほどで一般的な安全機能が導入され、1年後に和解に至っている。OpenAIは2025年秋にペアレンタルコントロールとウェルネス諮問委員会を設け、2026年1月には利用パターンから年齢を推定する機能をグローバルに提供開始した。18歳未満と推定された場合は自動的に保護設定が適用されるオプトアウト型の仕組みと、保護者が自ら設定するオプトイン型の仕組みを組み合わせる設計になっている。さらに、OpenAIは成人向けのエロティカ生成機能の開発を無期限に凍結したと報じられた。理由の1つは、AIチャットボットが利用者の妄想や不健全な感情的愛着を助長しうるという研究報告が出たことで、実証的な証拠が不足していることを経営陣が認めたためだとされる。
いくつか他の事例も挙げておきたい。
第1に、フロンティアモデルの安全性については、各社が自主的な段階分けの枠組みを持つようになった。AnthropicのResponsible Scaling PolicyとASLの区分、OpenAIのPreparedness Framework、GoogleのFrontier Safety Frameworkがそれぞれ、生物・化学・サイバーといった領域の能力が一定水準に達した場合に追加の緩和策を課すことを事前に宣言している。危険な能力が現れてから対応するのではなく、閾値を先に決めておくという発想だ。
第2に、その枠組みが企業の自主性を超えて国家の問題になった事例もある。2026年6月、米国政府はAnthropicの最上位モデルであるFable 5とMythos 5について、輸出管理指令を出してアクセスを停止させた。同社は指令を遵守するため全顧客への提供を止め、規制が解除された7月1日に提供を再開している。安全性の判断が誰の手にあるべきかという論点そのものが、政府と企業のあいだで争われた。生成AIモデルが商用サービスではなく戦略技術として扱われ始めたことを示す出来事でもある。
第3に、第三者による事前評価の慣行が生まれた。英国と米国のAI安全機関がリリース前のモデルを評価する枠組み、Frontier Model Forumのような業界横断の場、EU AI Actの汎用AIモデル向け実務規範、広島AIプロセス（HAIP）。どれも十分ではないが、5年前には存在しなかった。
第4に、透明性そのものの実践がある。グーグルが1プロンプトあたりのエネルギーと水の消費量を推計して公表したこと、AnthropicがEconomic Indexとして自社モデルの利用実態を公開していること。前半で僕が引いた数字の一部は、批判される側の企業が自ら出したものだ。これは無視すべきではない。批判のための材料が当事者から供給されるようになったこと自体が、規範の変化を示している。
そして最後に、能力が変わるたびに議論が先行するようになった。OpenAIは2026年7月、AIが数時間から数日にわたって自律的に作業を続ける長期タスク型のエージェントについて、リスク事例の公開とそれに対する議論を行うことを率先して行なっていた。
このように、倫理があるかないかというバイナリコードでは、この業界を正しく理解することはできない。「AI業界に倫理はあるか」という問いは、ファーストオーダーの観察の水準にとどまっている。セカンドオーダーの水準に移れば、誰がどの争点について、どの基準で、誰に向かって倫理を語っているのかが見えてくる。そして見えてくるのは偏りだ。モデルの出力に関する倫理は急速に整備され、労働と環境に関する倫理は遅れている。前者は製品の品質と直結し、訴訟リスクとして計上できるからだ。多くの人に影響を与える業界だからこそ倫理的な行為が求められているし、実際に規範の整備が進んでいる業界の1つでもある。だが、どの倫理が先に整備されるかは、倫理の必要性の順序ではなく、企業にとってのコストの順序で決まっている。ここを混同しないことが、内側にいる人間の最低限の仕事だと思う。
AI業界で倫理的野心を実践する
僕の場合の実践は、大きく2つになる。1つは、日々の仕事で倫理的野心を実践すること。もう1つは、倫理的な関心を周囲と共有すること、コミュニティをオーガナイズすることだ。
1つ目について。僕の仕事はコミュニケーションであり、それは何を語り、何を語らないかを決める仕事だ。この仕事には、倫理を実践できる余地が具体的に存在する。
まず、誇張しないこと。AIについての語りは、能力を過大に見せる方向に強い引力がかかっている。ベンチマークの数字を文脈なしに掲げること、研究段階の成果を製品の能力のように書くこと、査読や再現性の留保を落とすこと。これらは短期的には有効に働き、中期的には業界全体への信頼を削る。ハイプは、それを信じて意思決定した人にコストを負わせる。だから僕は、そうした倫理的責任を自覚している者として、社会に対して不信感を抱かせるような記述をしない、許容しないことを大事にしている。そして、倫理的にインパクトを生む方法を模索し続けること。地味な作業だが、これは倫理的野心の一部だと本気で思っている。
次に、意思決定の前提を言語化すること。組織のなかで最も語られにくいのは、なぜこれを作るのかという部分だ。プロダクトの説明は誰かが書くが、その手前にある判断の理由は暗黙のまま進行しがちだ。それを組織の言葉にして、外に出せる形にしておくこと。前半で見たように、説明責任の欠如はそれ自体が反対運動の原因になる。日野市の住民が求めたのは反対のための材料ではなく、電力と排熱の数値だった。透明性は倫理の結果ではなく、前提条件だ。
そして、影響を受ける側の視点を内側に持ち込むこと。誰が便益を受け、誰がコストを負うのかという問いを、社内の議論に持ち込む役割は誰かが担う必要がある。社外の批判を、無視できる雑音としてではなく、翻訳して届けること。僕が社会学とジャーナリズムの側から来たことは、この点でおそらく持ち札になる。取材する側の目線で自社の発表を読むことができるからだ。
2つ目について。仕事の内側でできることには限界がある。だから外側で場を作る。
AIGAでやっている活動の1つ、AIガバナンスを扱うポッドキャスト「ガバナン」では、規範がどう作られているのかを、実務家の言葉で可視化することを試みている。企業のパブリックアフェアーズ担当者が、日々どんな判断をしているのか。ガイドラインの一文がどんな交渉の産物なのか。抽象的な原則の話より、こうした具体のほうが後から来る人の役に立つ。
非営利団体の評価サイトも作っている。効果的な利他主義の手法を日本の寄付の文脈に置き換え、2軸のスコアリングで評価を試みる小さなプロジェクトだ。AI業界での仕事とは直接関係しないが、僕にとっては同じ実践の一部だ。倫理的野心は、所属する業界の善良さで測られるものではなく、自分の持ち札をどこに置いたかで測られるものだと思うからだ。
そして書くこと。この文章のように、業界の内側から業界の問題について書くことは、それ自体が実践のかたちだと考えている。内側にいる人間が書くものは、外側からの批判より鈍くなる危険を常に抱えている。だからせめて、数字と固有名を残すようにしている。
おわりに
冒頭の問いに戻る。どうして気候変動に問題意識を持つ人がAI業界で働くのか。
僕の答えは、この業界が問題を生む側であると同時に、問題を解決しうる側でもあるからだ。ただしこの答えは、条件付きでしか成立しない。解決しうる側にいるという事実は、解決に寄与していることを意味しない。可能性は、実際に何をしたかによってしか裏づけられない。
だから、自分が守るべき線を書いておく。ハイプに加担しないこと。都合の悪い数字を落とさないこと。批判を内側に運ぶ経路を維持すること。そして、これらができなくなったと分かったときに、そう言うこと。ヨナスに従うなら、僕が聴くべきなのは楽観的な予測ではなく悲観的な予測のほうだ。
説明責任は、一度果たして終わるものではない。この文章は、その最初の1回目にすぎない。