原文
Beyond AGI Control: Sovereign Collective Intelligence as Complementary Infrastructure — Dede-Qorqud (2026-06-10)
汎用人工知能 (AGI) のリスクに関する最も重要な声の2人、スチュアート・ラッセルとレオポルド・アッシェンブレナーは、診断については同意していますが、治療法については意見が異なります。
ラッセル (Human Compatible, 2019)：AIシステムは、固定された目標を追求するのではなく、人間の好みに従うべきである。問題：誰の好みなのか、そしてそれらはどのようにして真に表現されるのか？
アッシェンブレナー (Situational Awareness, 2024)：AGIは2027年までに登場し、セキュリティは壊滅的に不十分であり、国家による制御が避けられなくなる。問題：これはAGIに対する制御だが、市民のための主権ではない。
どちらのアプローチも構造的なギャップを共有しています。それは、好みはAIシステム、企業、または国家によって、トップダウンで観察、集約、管理できると仮定している点です。
BeTrueCoreは全く異なるレイヤーを提案します。
AGIを上から制御するのではなく、人間が集合的な意志を継続的かつ検証可能に表現できるインフラを構築します。それは匿名で、暗号的に、数学的に重み付けされた直感（VWU (Vote Weight Unit)）を用いて行われます。
既存のアプローチとの3つの構造的な違い：
1. エネルギー： AGIインフラがギガワット級の集中型電力を要求する一方で、BeTrueCoreは生体認証をローカルで処理し（デバイス上のFaceID）、クライアント側でゼロ知識証明 (ZK proof)を生成し、Celestiaのデータアベイラビリティ (DA)を介して証明を安価にアーカイブします。エネルギー競争なしの主権です。
2. 好みの真正性： MACI (Minimum Anti-Collusion Infrastructure)とZK-SNARKsは、ラッセルのアシスタンスゲームと民主的正当性の主張の両方を損なう、好みの偽装問題（Kuran, 1995）を排除します。
3. 制御の方向性： アッシェンブレナーの「AGIリアリズム」はトップダウンの国家制御を意味します。BeTrueCoreはボトムアップの主権的集合知です。AIは裁判官ではなく、公証人として機能します。
ラッセルが問う「AIシステムはいかにして真の人間の価値を学ぶのか？」という問いは、AIだけでは答えられません。人間がそれらの価値を自由に、検証可能に、そして継続的に表現できるインフラが必要です。
そのインフラはまだ存在しません。
BeTrueCoreは、それがどのようなものになり得るかという提案です。
議論を歓迎します。特にVWU監査証跡の規範的な観測スキーマについて。
1投稿 - 1参加者