この記事は更新されました。
生成AIは主に英語で訓練されているため、偏りが生じ、場合によっては深刻な結果を招く誤りにつながっています。
企業や政府は行動を起こし、世界にある7,000言語のより多くを技術に組み込むため、独自のAIモデルを開発しています。
文化遺産の保護は、世界経済フォーラムが提唱する責任ある生成AIに関するプレシディオ提言の提案行動の一つです。
「Ka pai te AI Whakaputanga i ngā reo?」
ChatGPTによると――そして、できればマオリ語を話す人なら誰でも――上の文は「生成AIは言語の扱いが得意ですか？」という意味です。
答えは、はいでもあり、いいえでもあります。
大半の大規模言語モデル（LLM）は英語のテキストで訓練されています。そのため、たとえばインドのオディシャ州の学生が母語のオディア語で書かれた研究論文をAIで分析しようとしても、ChatGPT、Claude、Perplexityなどでは期待に応えられないことがあります。
場合によっては、深刻な結果を招くこともあります。米国のある翻訳者はReuters Contextに、アフガニスタン人の亡命申請案件の10件中4件がAI翻訳アプリの不正確さにより、2023年に頓挫したと語りました。一方、スタンフォード大学の最近の研究では、米国の法制度で組織的な誤訳が日常的に起きていることが明らかになりました。
いったい何が起きているのでしょうか。世界では7,000を超える言語が話されていますが、ほとんどのAIチャットボットが訓練されているのは、そのうち約100言語です。そして、世界人口の20%未満しか話さない英語が、ウェブサイトのほぼ半数で使われており（下のグラフ参照）、LLMの主要な基盤になっていると、Center for Democracy & Technology（CDT）は述べています。
生成AIと言語の偏り
当然ながら、こうした言語の不均衡は問題を引き起こしています。
亡命申請書の翻訳者が目にした「信じがたい誤り」には、人名が月の名前に置き換わる、重要な情報が抜け落ちる、さらには入国管理に関する文の意味が逆転するといったものがありました。「機械そのものは、重大な結果を伴う状況にある人のために許容できる水準で案件を処理するのに必要な品質に、ほんのわずかも達していません」と、Respond Crisis Translationの創設者アリエル・コーレンはReuters Contextに語りました。
CDTのガブリエル・ニコラスとアリヤ・バティアも同じ見解を示しています。多言語言語モデル（MLM）が徐々に登場しているものの、「依然として通常、英語のテキストに偏って訓練されており、その結果、英語に埋め込まれた価値観や前提を、それが適切でない場合もある別の言語の文脈に持ち込んでしまう」と指摘します。例として挙げるのは「dove」という単語です。MLMはさまざまな言語で平和を連想させる語として解釈するかもしれませんが、バスク語の対応語「uso」は実際には侮辱語です。
必要なのは、専門家によれば、英語以外の自然言語処理（NLP）アプリケーションの開発です。生成AIの言語の偏りを減らし、「文化遺産を保護する」ためです。後者は、世界経済フォーラムの責任ある生成AIに関するプレシディオ提言が提唱する30の行動の一つです。「公共部門と民間部門は、厳選されたデータセットの作成や、十分に扱われていない言語向けの言語モデルの開発に投資し、地域コミュニティや研究者の専門知識を生かして、それらを利用可能にすべきです」と提言は述べています。
世界経済フォーラムは人工知能のガードレールをどのように構築しているのか？
AIエクセレンス・センターは、人工知能の急速な進化と経済・社会への影響を理解するため、さまざまな分野のリーダーを結び付けています。AI導入に伴う機会、リスク、トレードオフについて、情報に基づく対話を支援しています。
信頼できる場と協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIの革新と活用に責任ある形で取り組めるよう支援します。
AIの言語の偏りへの対処
政府やテクノロジー業界、さらには個人が、AIの言語問題を解決するために動き始めている兆しがあります。
インド政府は、地域の言語で訓練されたAI翻訳システム、バシニを構築しています。公用語は22ありますが、現在NLPアプリケーションに取り込まれている言語はごくわずかです。インドのテクノロジー企業Karyaも、MicrosoftやGoogleなどの企業がAIモデルに利用するデータセットを構築することで、均衡の是正を目指しています。これは、人々がアプリに母語の単語を読み上げる作業を伴う、手間のかかるプロセスです。
2023年にアラブ首長国連邦（UAE）で公開されたJais AIはアラビア語の言語モデルで、地域方言も含む高品質なアラビア語のテキストを生成できるとDigital Watchは伝えています。さらに最近、UAEはFalcon Arabicを公開しました。Reutersによると、これは「アラブ世界の言語の多様性を余すところなく捉えることを目指している」とのことです。
ニュージーランドでは、地元放送局Te Hiku MediaがAIを活用し、「マオリ語の保存、普及、再活性化」に取り組んでいると、同局の最高技術責任者はNvidiaに語りました。Nvidiaは自動音声認識モデルの開発を支援しており、同局によると、このモデルはマオリ語を92%の精度で文字起こしできます。Te Hiku Mediaの多言語LLM「Papa Reo」は、ピーター・ルーカス・ジョーンズが発案したものです。彼は
Time Magazineによって、2024年のAI分野で最も影響力のある人物の一人に選ばれました。2025年の年次総会でフォーラムの取材に応じたジョーンズは、「太平洋地域の先住民言語が、消滅する言語の中に数えられないよう、私は闘っています」と語りました。彼のチームはニュージーランド各地を回り、人々がマオリ語で話す様子を収録しています。その音声はPapa Reoに追加され、自動文字起こしツールKaituhiを支えています。
「私たちが重視するのは正確さです。精密さです。品質を維持することです。そして、マオリ語では一つの単語に最大七つの異なる意味があり得ると自分たちに言い聞かせることです」と彼は述べました。
同様の取り組みとして、草の根組織Masakhaneは、
アフリカ諸語のNLP研究を強化し、促進する活動を進めています。アフリカでは約2,000の言語が話されていますが、「テクノロジーにはほとんど反映されていない」と同組織は述べています。ナイジェリア政府も行動を起こし、2024年に同国初の多言語LLMを公開しました。「このLLMは、人工知能ソリューション開発のための既存データセットにおいて、より多くの言語を反映させるべく、
データ資源の少ない5言語とアクセントのある英語で訓練されます」と、通信・イノベーション・デジタル経済相のボスン・ティジャニ博士がLinkedInで発表しました。アートとAIテクノロジーを通じて言語と文化を守ることは、ジャスティン・ランガンにとって極めて重要です。カナダ、マニトバ州のスワンリバーの農村コミュニティ出身で、フォーラムの
グローバル・シェイパー
でもあるランガンは、先住民の長老たちの物語を記録し、伝統的な知識が失われないよう、映像を生きたアーカイブとして残しました。ランガンは、先住民と現代テクノロジーの隔たりを埋めることにも取り組んでいます。「この知識、この先住民の知恵は、カナダだけでなく世界中で、私たちが持つ多くの新しい技術を取り入れることで守ることができます」と彼はフォーラムに語りました。「人工知能のことを話しています。新しい技術を活用して、言語や文化、教えを維持し、守るのです。先住民の長老たちが自分たちの言語を話せるアプリを作れば、その言語が失われる危険を避けられます。」ブラジルのアマゾンでは、
先住民が300の言語を話しています
が、LLMに認識されているのは主要言語のうちごくわずかです。共に暮らし、働いていたアマゾン地域のコミュニティの人々と意思疎通ができなかったトルコ人アーティスト、レフィク・アナドルは、先住民のデジタルアート作品『Winds of Yawanawa』を共同制作した人物
ですが、そのもどかしさを行動に変えました。アナドルは、「あらゆる先住民」のための、「テクノロジーで自らの言語を守る」オープンソースAIツールの開発を主導したと、2023年のダボス年次総会で世界経済フォーラムに語りました。「人類全体を知らないAIを、いったいどうやって作れるというのでしょうか」と彼は問いかけました。ユネスコによると、
2週間に1言語の割合で「消滅」している
なか、生成AIは多くの言語にとって、最後のとどめにも、救いにもなり得ます。2週間に1言語の割合で「消滅」しているとユネスコは述べています。生成AIは、多くの言語にとって最後のとどめにも、救いにもなり得ます。
