DeepSeekアプリがユーザーの入力や出力といった情報を中国内のどこかに送信している可能性について世界中で大騒ぎとなっているが、これは特に今始まったことではなく中国の国内法に依拠する問題である。元々この文書、というより短いメモ書きは欧米人向けに説明するものだったが、それを和訳？の上で若干加筆して下記に残す。
2023年、中国の政府機関は「生成式人工知能サービス管理暫定措置」(生成式人工智能服务管理暂行办法)を制定し、生成AIサービス業界のための規制のガイドラインとした。
[参照：https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm]
この法律には、第三者による知的財産権を尊重し、侵害しないこと、個人の要求に応じて個人情報を取り扱うこと、民族や思想に基づく差別を禁止すること、トレーニングデータを含めて透明性を向上させること、高品質なトレーニングデータの入手可能性を高めること、健全なAIエコシステムを構築するための協働と共有を促進することなど、様々な賞賛すべき規定が含まれている。その内容の多くが科学的合理性に重点を置いていることは、中国らしさを感じさせる。
しかし、当然ながら問題点もいくつかある。
この法の第4条には次のように書かれている（括弧内は原文中国語、その後に日本語訳）。
第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；
日本語訳：
第4条：生成型AIサービスを提供または利用する際には、法律および行政法規を遵守し、社会道徳および倫理を尊重し、以下の規定に従わなければならない。
（1）社会主義核心価値観を堅持すること。国家政権の転覆や社会主義制度の打倒を扇動する内容、国家安全や利益を脅かす内容、国家のイメージを損なう内容、国家分裂を扇動する内容、国家の統一や社会の安定を損なう内容、テロリズムや過激主義を助長する内容、民族間の憎悪や民族差別を助長する内容、暴力やわいせつ、ポルノを助長する内容、法律や行政法規で禁止されている虚偽や有害な情報を含むコンテンツの生成は禁止されている。
「社会主義核心価値観」とは、国家、社会、個人それぞれが守るべきとされる12の価値観を指す。中国の政治的枠組みでは、これらの価値観と矛盾するとみなされるコンテンツは、原則として排除される。これが、AIモデルにバイアスを組み込むことの根拠となっている。
そして、第11条および第14条には、次のように記載されている。
第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。
第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。
日本語訳：
第11条：プロバイダーは、法律に従い、ユーザーの入力情報および利用記録を保護する義務を履行しなければならない。不必要な個人情報を収集してはならず、ユーザーを特定できる入力情報および利用記録を違法に保有してはならず、またユーザーの入力情報および利用記録を違法に他者に提供してはならない。
第14条：プロバイダーは、違法なコンテンツを発見した場合、速やかにその生成を停止し、送信を停止し、または削除するなどの措置を講じなければならない。また、モデル最適化トレーニングなどの措置を講じて問題を是正し、関連監督当局に報告しなければならない。
この法的枠組みに基づき、第4条で求められている「社会主義核心価値観」を維持するために、第11条ではプロバイダーがすべてのユーザー活動を記録することを義務付け、第14条ではこれらの記録に基づく検閲を正当化している。これらを総合すると、これらの規定は生成AIアプリケーションや生成AIのWebサービスにおけるユーザーの入力と出力の監視を事実上合法化及び義務化していることになるのだろう。言い換えれば、DeepSeekアプリが様々な情報を中国に送信している場合、それは単に中国の国内法に従っているだけということになる。これは当然ながら中国国内の企業によって運営されているその他の全てのAIサービスにも当てはまる。
なお、第6条には次のように書かれている。
第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。」
日本語訳：
第6条：生成型AIアルゴリズム、フレームワーク、チップ、およびサポートソフトウェアプラットフォームなどの基礎技術における自主的なイノベーションを奨励する。平等かつ互恵的な国際交流および協力を行い、生成型AIに関する国際的な規則の策定に参加する。
中国企業によるAIサービスを利用する際には特段の注意が必要であることは疑いようがないだろう。ただ、同時にこれらの国家が義務付ける検閲が生成AIサービスとアプリケーションのみに課せられていることは興味深いことでもある。AIモデルを開発する行為に関しては、第6条において国際交流と国際ルールの順守を前提にして、そのような活動を推進すべきであると明確に規定している。この姿勢こそが、オープンソースのライセンスの下でAIモデルを頒布することを推進していると考えられる。MITやApache 2.0などのライセンスでAIモデルを頒布することは、この点において中国の国家戦略に沿うものでもあるのだろう。
中国のAI規制には一見矛盾する二つの側面がある。一方では強力な検閲システムを義務付け、もう一方ではAI技術開発における国際協力と協働を重視している。これは、技術開発と安全保障のバランスを取るという中国の戦略的アプローチを反映しているのかもしれない。
Shuji Sado 