🧯 慎重派 CAUTIOUS

「進めたい。でもシートベルトが先」

どんな考え？

AIは素晴らしい。だからこそ、安全装置を先に作れ——という立場です。
飛行機を飛ばすなとは言っていません。管制塔と整備点検を要求しているだけです。
中身は2チームの相部屋です。
ひとつはアラインメント研究（AIの目標が人間の意図とずれないようにする技術）。
もうひとつはガバナンス（評価・監査・国際ルールといった制度づくり）。
「止めろ」のドゥーマーとは似て非なる棚です。

有名な人・事件

• ヒントン退社（2023年）: 「AIのゴッドファーザー」と呼ばれる大御所が、リスクを自由に語るためGoogleを辞めた
• 世界初のAI安全サミット（2023年・英ブレッチリー）: 28か国が集まって「最先端AIにはリスクがある」と共同宣言
• EU AI法: AIを risk 段階で規制する世界初の包括法。制度側の動きが本格化

あるある

• すごいデモを見ると「すごい。で、安全評価はどうなってるの」と続ける
• p(doom)（AIで人類が破滅する主観確率）を聞かれると、ちゃんと数字で答える
• 加速主義者からは「ビビり」扱い、ドゥーマーからは「甘い」扱いの中間管理職