Lilian Weng、短期的なAI自己改善の鍵は「重み」ではなく「ハーネス」と主張

Lilian Wengは、ハーネスをベースモデルの周囲で計画、ツール、コンテキスト、評価を統合するシステムと定義し、短期的な再帰的自己改善はモデルが自身の重みを書き換えることではなく、このレイヤーの進化によってもたらされると主張している。コードやベンチマークは公開されていないが、提示された3つのパターンは実装に十分な具体性を持つ。すなわち、計画・実行・テストのループ、コンテキストの代わりとなる永続的メモリとしてのファイルシステム、そして一時的なチャットではなくファイルとして保存されるサブエージェントの並列処理である。同氏は未解決の課題として、脆弱な評価器、コンテキストのライフサイクル管理、報酬ハッキングを挙げ、人間をループから外すのではなく、スタックのより上位に配置すべきだとしている。

出典： lilianweng.github.io ↗