2023年5月7日午前11時（中国標準時）、GPT DAOはTwitter Spaceにて「AIのベテランが語るAGIの過去と現在」と題したイベントを開催しました。本イベントでは、AI分野の経験豊富な専門家が登壇し、AGI（汎用人工知能）技術の歴史と現状を深く掘り下げるとともに、人工知能が私たちの生活と未来に与える影響について議論が交わされました。
さらに、GPT DAO、ChainDD（鏈得得）、Feixiaohao（非小号）、BroadChain Finance（博链财经）などのメディアで構成される観察団も参加し、AI技術の将来への影響や直面する課題についても活発な議論が行われました。
【Twitter Space 参加者】
ゲスト：
楊寧：エンジェル投資家、Lebo Capital（楽搏資本）共同創設パートナー、中国エンジェル投資連合会初代会長
陳葵：元Citrix（シトリックス）グローバル副社長、元Microsoft（マイクロソフト）アジア太平洋研究開発グループ責任者、元Cisco（シスコ）およびComputer Associates（冠群）幹部
白強：GPT DAOコアメンバー、Web1からWeb3までグローバルに活躍する起業家・投資家、中国科学技術大学数学科卒／米国パデュー大学数理統計学修士、iFLYTEK（科大訊飛）元共同責任者
ホスト：
Zoie：GPT DAOコアメンバー、シンガポールSub DAO責任者、LK Venturesベンチャーパートナー
メディア観察団：
蔡継軍（共同ホスト）：コアメンバー、Fast Global共同創設者
ドルジ：ChainDD（鏈得得）華東地区執行副編集長
孫岩：Feixiaohao（非小号）執行編集長
王暉：BroadChain Finance（博链财经）創設者、1783DAO発起人
協賛メディア：
TMT Post（鈦媒体）、ChainDD（鏈得得）、Feixiaohao（非小号）、Foresight News、BroadChain Finance（博链财经）
以下、本AMAの議論のハイライトをお届けします。
Q1：先日、Google AI研究所所長でニューラルネットワークのパイオニアであるジェフリー・ヒントン（Geoffrey Hinton）氏が5月1日に突如退任を発表しました。その理由として、生成AIへの懸念を表明しており、AIシステムが危険性を増していること、何らかの規制がなければ開発競争が止まらないこと、AIの進化速度は我々の想像をはるかに超えており、最終的に制御不能になる可能性があると憂慮しています。この点について、皆様のご意見をお聞かせください。
楊寧：
哲学的な観点から言えば、人間の本性は善です。人類はその中核的な価値観と内なる人間性によって、地球上で最も繁栄した種の一つとなってきました。ロボットやAIが学習するデータや知識は、すべて人間によって与えられるものです。ですから、AIは善の側から発展していくと確信しています。大企業や主要な開発者、AI分野の専門家たちが善良な人々であれば、彼らが育てるAIもまた善良なものになるでしょう。それはまるで私たちの子供のように、私たちが教えた良いことをそのまま受け継ぐのです。したがって、AIが制御不能になることはなく、過剰な規制や倫理規範も必要ないと考えています。
ホストZoie：
人間の本性が善であり、AI技術のニューラルネットワークが完全に明確な論理的分析では理解できないという前提で、技術的な手法によってAIが悪事を働かないように保証する方法や、規制当局がAIの発展にどう対応すべきかについて、他のゲストの方から補足いただけますか？
白強：
まず、イーロン・マスク氏が広めている「脅威論」には私的な動機があり、バイデン政権もこれを一種の政治的資本として利用しています。その他、AI倫理やガバナンスを声高に叫ぶ多くの論調も、ある意味では自らの利益を守ろうとする意図があります。数年前、我々がiFLYTEK（科大訊飛）でAI音声ツールを開発していた時代から、AIガバナンスという議題は存在しており、AI技術が広く普及してきた自然な延長線上にあるもので、全く新しい話題ではありません。そもそも人間自身が自分の脳の働きを完全に理解できていない以上、AIのニューラルネットワークを完全に解明することはさらに困難であり、「AIが悪事を働くかどうか」という問いは検証のしようがありません。規制の観点から言えば、規制当局は常に技術革新を牽引する天才たちよりも遅れをとっており、結果として「規制すれば息の根を止め、規制しなければ混乱する」というジレンマに陥りがちです。
楊寧：
もし私が規制当局の立場で規制を行うとしたら、これほど大きな課題に直面し、どこから手をつければいいのかわからなくなるでしょう。技術コードのレベルで規制すべきか、それともアプリケーションレベルで規制すべきか？ この反AIの感情は、かつてアメリカで広まった反ワクチン運動の感情に似ていると思います。そもそも人間は自分の脳がどのように機能しているのか完全には理解できず、また人間の脳がどのような状況で狂気や精神障害に陥るかも判断できません。だからこそ、AIに対して不必要な恐怖を抱く必要はないのです。人々がAIがもたらす利便性に次第に慣れ親しんでいけば、AIを受け入れ、人間とAIが共存することを自然に認められるようになるでしょう。
陳葵：
現在のこの潮流は、もはや避けられないものとなっています。重要なのは危機意識を持つことです。AIの能力がますます多様化・高度化するにつれて、いつ制御を失うのか、あるいは警告なく人類に危害を及ぼし始めるのかというリスクは高まっています。規制の問題を解決する前に、まずはAIを受け入れ、理解し、それがもたらす機会を見いだす必要があります。そのため、私はAIが我々にもたらす機会に焦点を当てて議論し、将来それらの機会を活用していかに生活を改善できるかを考えるべきだと思います。
Q2：現在最も人気のあるAIGC画像生成ツールであるMidjourneyの、他の競合製品に対する技術的優位性は何でしょうか？ AIGC画像生成ツールの将来の展望はどのようになるとお考えですか？
白強：
現在のAI画像生成技術はそれぞれ異なる特徴を持っていますが、Midjourneyであれ他のAIGCツールであれ、真の成功は、それらのツールを使ってどれだけ魅力的なコンテンツを生み出せるかにかかっています。参考例として、ピクサー・アニメーション・スタジオを挙げましょう。ピクサーはジョージ・ルーカス氏が設立したスタジオを起源とし、後にスティーブ・ジョブズ氏が買収しました。当初ジョブズ氏は同社をハードウェア企業として位置づけましたが失敗し、その後ソフトウェア企業へと方向転換しました。この時期にジョン・ラセター氏がピクサーに加わり、卓越したコンテンツ制作能力を発揮してアカデミー賞受賞のCG短編アニメを制作します。この功績により、ジョブズ氏は再び戦略を見直し、ディズニーとの提携を通じて『トイ・ストーリー』などのアニメーション映画を製作。こうしてピクサーは世界的なアニメーション制作会社へと成長したのです。
ピクサーがジョン・ラセター氏の卓越したコンテンツ制作力によって、行き詰まっていたハード/ソフト企業から世界をリードするアニメーションスタジオへと変貌を遂げたように、現在AI生成コンテンツに取り組むすべてのチームやツールも、同様の突破口を見つける必要があります。もし企業がAI時代のピクサーとなることができれば、それは成功を収めるでしょう。一方、単なるツール提供企業は、最終的には取って代わられてしまう可能性があります。
ホストZoie：Midjourneyのチームはわずか11名ながら、年間売上高はすでに1億ドルを超え、コミュニティユーザー数は1,500万人に達しています。AIの発展に伴い、今後、企業や人材組織の形態にはどのような変化やトレンドが見られるとお考えですか？ 特に、大手テクノロジー企業で要職を務められた経験のある陳葵氏にお聞きしたいです。
陳葵：
企業と人材の変容、そして産業構造の転換は、今まさに重要なテーマだと考えています。本題に入る前に、まず前提として、陸奇氏が講演で触れた「三位一体の構造進化モデル」について簡単にご説明します。このモデルは、情報システム、モデルシステム、行動システムの三要素から構成されています。これら三つのシステムは、AIの発展過程において互いに依存し合い、技術の進歩を共に推し進めています。
1. 情報システム：これはデータの基盤インフラであり、膨大なデータの収集、保存、処理を担います。インターネットやIoTの普及に伴い、情報システムはますます大規模化・複雑化しています。これらのシステムは、機械学習やAIアルゴリズムに豊富なデータソースを提供し、データから学習して価値ある情報を抽出することを可能にします。
2. モデルシステム：データに基づく分析・予測ツールであり、機械学習アルゴリズムやAIモデルなどがこれに当たります。これらのシステムは、情報システムから提供されるデータを活用し、訓練と最適化を通じてデータ内のパターンや法則を学習します。計算能力の向上とアルゴリズムの進化により、モデルシステムは画像認識、自然言語処理、レコメンドシステムなど、より複雑な課題に対応できるようになってきています。
3. 行動システム：モデルシステムによる予測・分析結果を、実際の行動に変換する部分です。通常、ロボットや自動運転車、スマートホーム機器などのハードウェアが含まれます。行動システムは、モデルシステムの出力を実用的な操作へと変え、AIの実用化を実現します。
三位一体の構造進化モデルは、情報システム、モデルシステム、行動システムの密接な関係性を強調しています。このモデルは、AI発展の核心的な原動力と、これらのシステムが技術革新とその応用実現において果たす鍵となる役割を明らかにしています。三つのシステムを統合的に活用することで、現代社会の複雑な課題をより深く理解し、効果的に対処することが可能になるのです。
現在、私たちは情報システムの段階にあります。モデルシステムの推論・計画能力が進化することで、環境と相互作用しながら人間の目標を達成していくことになるでしょう。このデジタル時代において、人間が情報を取得・表現し、ニーズを満たすために行動を起こすプロセスは、デジタルシステムと似通っています。ディープラーニングAIとクラウドコンピューティング技術により、大企業と中小企業の間のコストや技術格差は既に解消されつつあり、残された競争の焦点は人材、創造性、そして実行力に移っています。また、大企業と中小企業の協業も市場に良い影響を与えています。そのため、クラウドコンピューティングや大規模AIモデルは、どこにでも存在するサービスとなり、革新的な小規模企業に大きな市場機会をもたらすと予想されます。これにより、より多くの若者が起業し、オープンソース技術の市場実装・応用に注力するようになるでしょう。私は将来に対して比較的楽観的です。人類とAIは長い共存期間を迎えるはずです。この期間で、私たちはAIと対話・協働する方法を学ぶ必要があります。将来的には、多くの専門分野がAIと結びつき、定型化された業務を担う職種の多くは消滅する一方で、新たな職業も生まれるでしょう。総じて、私は将来の産業変革と職業の発展に対して前向きで楽観的な見方をしています。
Q3：本日は登壇者の皆様から貴重なご意見を伺え、誠にありがとうございました。本日の議論はAI規制から始まりました。ここでジョージ・ソロス氏の言葉を引用させてください。「イノベーションは常に規制よりも先を行く」——金融危機を引き起こした金融イノベーション、Web 3.0のイノベーション、そしてAIのイノベーションも同様です。AIの急速な発展に伴い、自身の仕事がAIに取って代わられるのではないかと懸念する人々が増えています。先ほどもMidjourneyの11人チームや新しい企業組織形態について触れましたが、本日のテーマは「AGIの前世今生」です。そこで、私たちが経験してきたこと、そしてこれから思い描くAIの過去と未来について、一緒に語り合いましょう。
楊寧：
20世紀半ば、アラン・チューリングがチューリングテストを提唱し、コンピュータ科学の基礎を築いて以来、人々はAIと従来のコンピュータとの根本的な違いを認識し始めました。AIの発展は、ニューラルネットワーク、ディープラーニング、強化学習など、様々な手法の継続的な進化を経てきました。ニューラルネットワークは人間の脳の神経構造を模倣し、データの処理と学習能力を著しく向上させました。この手法は、画像認識、音声認識、自然言語処理などの分野で重要なブレイクスルーを実現しています。
その後、ニューラルネットワークの一分野であるディープラーニングは、より深い層を持つニューラルネットワークを用いて複雑なデジタル情報を処理する技術として、AI研究のホットトピックとなりました。一方、強化学習は試行錯誤に基づく学習手法で、AIが環境や他の知的エージェントと相互作用し���がら最適な意思決定を学ぶことを可能にします。この手法はゲーム分野で驚異的な成果を挙げており、DeepMindのAlphaGoが囲碁の世界チャンピオンを破った事例は、AIが意思決定や戦略立案において持つ巨大な可能性を示しています。近年では、AGIが研究の重点となっています。AGIは、人間と同程度の知能レベルを持つ機械を創り出し、あらゆる状況下で人間と自然な対話を行うことを目指しています。同時に、OpenAIのGPTシリーズのような大規模事前学習言語モデルが顕著な進展を遂げ、機械による自然言語の理解能力を大幅に向上させ、AIと人間のより深いコミュニケーションの基盤を築きました。私見では、人類とAIは共存し、互いに促進し合うことが可能です。AIの応用範囲はすでに医療、教育、金融、交通など多岐にわたり、生産性と人々の生活の質を大きく向上させています。
人類の知能開発は、まだ私たちの期待には遠く及びません。つまり、現時点では私たちの脳の使用率は依然として非常に低いのです。もしAIが人類の脳の潜在能力を刺激し、活性化することができれば、私たちもAIと共に進化し、相乗効果を発揮できるでしょう。将来、人類はより賢く、より知的になり、さらに強力なAIと対等にやり取りできるようになるはずです。
白強：
私はやや悲観的な見方をしています。インターネットやAIの発展は、世界をより良くしていません。インターネットの視点で見ると、情報の流通が拡大したにもかかわらず、権力者による操作を阻止できず、むしろ社会の分断を加速させています。AGIも同様の問題を抱えるでしょう。技術進歩によって一部の人々はより優れた存在になる一方で、大多数の人々はますます無知・無気力になっていくと考えます。これは、高度に発達した社会において、人々が努力する必要性を失った結果、自然と知性が退化しているからです。ここには、さらに深い次元の問題が数多く存在します。AGIの到来によって、私たちはより脆弱になるのでしょうか？これは、私たちが真剣に考えるべき問いです。
陳葵：
楽観論と悲観論の二者択一ではなく、私はむしろ中立的な立場です。もちろん、私たちが属する業界において、歴史を無視すべきではありません。過去の経験は、現在そして将来の課題に直面する際、私たちにとって貴重な指針となります。それでは「前世今生」について語るにあたり、まずアイザック・アシモフが提唱した「ロボット三原則」を振り返ってみましょう。第一に、「ロボットは人間に危害を加えてはならず、また、その不作為によって人間に危害を及ぼしてはならない」。第二に、「ロボットは人間からの命令に従わなければならない。ただし、それが第一の原則に反する場合を除く」。第三に、「ロボットは自己を守らなければならない。ただし、それが第一および第二の原則に反する場合を除く」。これは極めて理想主義的な構想であり、AIの発展の道筋を考察する上で極めて重要な意義を持っています。
AGIの出現は、人類に甚大な影響を与えるものであり、その影響が善悪どちらに転ぶかは未定です。しかし、OpenAIが掲げる三つの原則には、心から安堵を覚えます。
1. 広範な利益：AGIが人類全体にポジティブな影響を及ぼすことを目指し、AGIの発展が人類を損なったり、権力を集中させたりしないことを保証すること。
2. 長期的安全性：AGIに関する研究において、他プロジェクトがOpenAIよりも安全なAGIの実現に成功する可能性が高いと判断された場合、OpenAIは競争ではなく協力を選択する。
3. 技術的リーダーシップ：安全性および社会的影響の両面で実質的な影響を及ぼすため、OpenAIは今後も分野内での重要なブレイクスルーを継続的に達成し、AGIの研究および応用における影響力を確保し続ける。
これらの原則は、人類が宇宙規模で最大限に繁栄することを可能にするとともに、AGIの恩恵が広く共有されることを保証し、リスクへの対応を成功に導く助けとなります。未来は不確実性に満ちていますが、私たちは希望を抱き、変化に積極的に向き合い、絶えず機会を探し続けるべきです。最後に、人生の美しい瞬間を存分に楽しみ、最終的な終焉を迎えるまで、最後の宴を謳歌すべきでしょう。
メディア観察団インタラクション
非小号執行編集長 孫岩：
私はAIに対して特に楽観的でも悲観的でもなく、むしろ大多数の人々と同じく、やや盲目的、あるいは無知な感覚を抱いています。ChatGPTやMidjourneyなどのAIプラットフォームを試してみましたが、それらがもたらす大きな恩恵を実感できず、メディアプラットフォーム上でも活用していません。なぜなら、そうすることで自分の個性や独自性を失ってしまうように感じるからです。私自身は、AIやAGIがもたらす明確なメリットを強く感じ取れていないのです。映画『2001年宇宙の旅』を例に挙げれば、当時の描写は今の私の感覚には大きな衝撃を与えません。なぜなら、現実は想像よりもずっと骨太で、そこまで神秘的でもハイテクでもないからです。したがって、私は現時点では悲観的でも楽観的でもなく、ただの一人の凡人としての感覚に近いのです。
博链財経および1783DAO創設者 王暉：
数名のゲストの方々のご発言を伺い、楊氏にいくつか質問したいと思います。東洋文化、例えば「人之初、性本善（人は生まれたときから、その本性は善である）」という考え方から推論すれば、AIもまた善であるはずですが、現状のAI発展は、実際には西洋の主流企業によって独占・主導されています。西洋文化には、このような「人之初、性本善」という文化的伝承が存在するのでしょうか？西洋文化の視点から見た場合、AIと人類の将来はどのようなものになるでしょうか？
楊寧：
非常に鋭いご質問ですね。人類には普遍性と人性の同一性があり、どの文化・民族・背景から生まれたとしても、人類が持つ友愛・協力・共感といった資質は概ね共通しています。このため、私は『三体』に登場する「暗黒森林理論」を否定します。人類は獣ではなく、チームや組織を形成できる、人間性を備えた存在なのです。機械学習モデルの訓練において、高品質なデータは極めて重要であり、データの質とラベルの正確性がモデルの訓練効果を直接左右します。さらに、AIの開発者はその影響力が非常に大きく、機械の「人性」は結局のところ人間から由来するのです。
博链財経および1783DAO創設者 王暉：
白強総経理にお聞きしたい質問がもう一つあります。「多くのツール型製品は淘汰される」とのお話でしたが、それはChatGPTも含まれるのでしょうか？もしそうだとすれば、AI分野において長期的に生き残れるプロジェクトとは、どのようなものだと考えられますか？
白強氏：
私の考えでは、OpenAIの真の基盤はChatGPTのような個別の製品ではなく、大規模言語モデル（LLM）そのものにあります。たとえChatGPTのようなツールが姿を消したとしても、OpenAIは膨大なデータという最大の資産を保有し続けるでしょう。数多ある企業の中で成功を収める鍵は、新たなAGI（汎用人工知能）時代において、「コンテンツ企業」へと変貌を遂げられるかどうかにかかっています。ピクサーの例を思い出してください。同社は最終的には高品質なコンテンツ制作会社として成長し、アカデミー賞も受賞しました。我々は今、AIという視点から新たなモデルや製品を再定義する必要があり、旧来の思考に縛られてはいけません。この新しい時代において、あらゆる側面をどう再構築するかを深く考察し、そこに起業や投資の機会を見いだすべきです。このような考え方に立脚すれば、将来にはさらに多くの可能性が広がると確信しています。
チェーンデット（ChainDD）華東地区執行副編集長・ドルジ氏：
一つ質問です。チューリングテストはAGIの評価基準として適切でしょうか？あるいは、AGIにはどのような評価基準を設けるべきだと考えますか？
楊寧氏：
AGIの評価は、二つの方向から進めるべきだと考えます。一つは機械の知能水準を測るテスト、もう一つは機械の心理状態を測るテストです。まず知能水準については、従来のチューリングテストはもはや時代遅れであり、「知能指数（IQ）テスト」のような新たな手法を導入し、機械の知能を定量的に測定する必要があります。ただし、開発者がテスト対策に特化した過学習をしないよう、テストセットは慎重に設計しなければなりません。次に心理状態については、人間の精神検査に類似した機械向けのテストセットを開発し、機械の「心理」をより精確に把握することが重要です。これら二つの方向性は、いずれも極めて重要で、大学や研究機関が今後重点的に取り組むべき課題です。
チェーンデット（ChainDD）華東地区執行副編集長・ドルジ氏：
楊寧総経理、詳しいご説明ありがとうございます。もう一点、AI倫理についてお伺いします。社会の分業や責任の一部がAIに委ねられるようになった今、倫理的課題にはどのように対処すべきでしょうか？例えば自動運転の分野では、AIの発展により新たな可能性が開かれ、複雑な指示やマルチモーダルデータに基づく判断も可能になりつつあります。しかし、AI技術を活用する一方で、その倫理的側面をどう担保するかが大きな課題です。この点について、AIをどのように訓練すべきだとお考えですか？
楊寧氏：
この問題は、純粋な倫理問題というより、むしろ法的な問題に近いと考えます。核心は、「決定論的アルゴリズム」と「確率的アルゴリズム」の違いを明確にすることにあります。決定論的アルゴリズムとは、同じ条件では機械が常に同じ選択をすることを意味します。一方、AIベースのアルゴリズムは確率分布に基づいており、同じ条件でも異なる結果を生む可能性があります。
そのため現在、世界的に見ても、確率モデルに基づく意思決定をAIに全面的に委ねる動きはありません。法的責任の所在が曖昧になるリスクがあるからです。例えば、自動運転車が事故を起こした場合、責任は誰にあるのか？ドライバーが同乗していればドライバーが、完全無人であればサービス提供企業が法的責任を負うことになります。
現時点では、AIへの信頼は、生死に関わるような重大な損害をもたらす可能性のある意思決定を任せるほどには至っていません。航空宇宙分野では、米国連邦航空局（FAA）をはじめとする各国の当局が、AIによるそのような意思決定を一切認めていません。認められているのは、人間による判断、あるいは「決定論的アルゴリズム」を用いた自動化された意思決定プロセスだけです。つまり、同じ入力に対して必ず同じ出力が得られることが絶対条件なのです。我々が現在進めている無人航空機（UAV）プロジェクトでも、この決定論的アルゴリズムを採用しており、それが航空当局の承認を得るための要件となっています。
以上が、今回のTwitter Spaceの主な内容でした。皆様にとって何らかの示唆や気付きがあれば幸いです。GPT DAOは、最もコアなAGI情報を共有するコミュニティとして、深い洞察と高度な専門情報を発信しています。どうぞご期待ください！
最新のイベント情報は、GPTDAOのX（旧Twitter）をご覧ください。
中国語X（旧Twitter）：@GPTDAOCN
英語X（旧Twitter）：@GPTDAOGLOBAL