OpenAIから独立したダリオ・アモデイらが立ち上げたAnthropicは、「AIが人類の脅威にならないこと」を絶対的な至上命題として掲げている。
彼らの開発手法である『Constitutional AI（憲法ベースのAI）』は、人間のフィードバック（RLHF）への過度な依存から脱却し、AI自身に基本原則を与えて自己採点・自己修正させるという画期的なアプローチだ。この安全性への徹底したこだわりが、結果的にエンタープライズ市場における圧倒的な信頼に繋がり、AmazonやGoogleからの巨額の投資を引き出している。
