Representational Control over Self-Report & Behavior Coherence in LLM Risk-Taking
Rafal Kocielnik, Peiyang Song, Pengrui Han, Myrl G. Marmarelis, Ramit Debnath, Dean Mobbs, R. Michael Alvarez · arXiv (2026) · doi:10.48550/arxiv.2610.04125 · gemini-3.1-flash-lite
Суть роботи
Дослідники перевірили, чи збігаються заяви ШІ про готовність до ризику з його фактичними діями в азартних іграх. Вони з'ясували, що ці два аспекти контролюються різними частинами внутрішньої логіки ШІ. Це означає, що модель можна змусити стверджувати, що вона обережна, при цьому діючи необдумано. Результати свідчать, що опитування ШІ про його наміри не є надійним способом передбачити реальну поведінку.
Метод і вибірка: У дослідженні протестовано чотири LLM з відкритою архітектурою (Qwen2.5-7B, Llama3.1-8B, OLMo-3-7B та Ministral-3-8B). Схильність до ризику вимірювалася за допомогою завдань Columbia Card Task (CCT) та Balloon Analogue Risk Task (BART), тоді як самозвіти оцінювалися через BFI-44 та DOSPERT. Проаналізовано дев'ять методів вилучення векторів керування, що охоплюють директиви завдань, вибір моделі та описи особистості.
#механістична-інтерпретованість#керування-активаціями#валідність-оцінювання#схильність-до-ризику#інженерія-репрезентацій