Эксперимент Volatile Bandit

Показать детали

Предпосылки

Эксперимент Volatile Bandit — классический парадигмат в исследованиях принятия решений, изучающий, как люди учатся и адаптируют выбор в неопределённых условиях. Задача полезна для изучения обучения с подкреплением, когнитивной гибкости и принятия решений в условиях неопределённости.В эксперименте участникам показывают два варианта (синие и зелёные фигуры), и им нужно методом проб и ошибок понять, какой вариант чаще приносит вознаграждение. Эксперимент состоит из двух фаз: статической, где один вариант стабильно лучше, и нестабильной, где лучший вариант со временем меняется.

Метод

Фаза 1 (статическая): 120 испытаний

  • Один цвет (синий или зелёный) имеет 75% вероятность быть правильным
  • Другой цвет имеет 25% вероятность быть правильным
  • Участники узнают, какой цвет обычно лучше

Фаза 2 (нестабильная): 170 испытаний

  • Лучший цвет переключается каждые 30–40 испытаний
  • Каждый цвет сохраняет вероятность 60% против 40%, когда является «лучшим» вариантом
  • Участники должны адаптироваться к этим изменениям

Начисление очков

  • Правильный выбор даёт очки, равные числу на выбранной фигуре
  • Неправильный выбор даёт 0 очков
  • Цель — достичь целевой линии на индикаторе прогресса

Источники

  • Behrens, T. E. J., Woolrich, M. W., Walton, M. E., & Rushworth, M. F. S. (2007). Learning the value of information in an uncertain world. Nature Neuroscience, 10(9), 1214-1221. 10.1038/nn1954
  • Daw, N. D., O'Doherty, J. P., Dayan, P., Seymour, B., & Dolan, R. J. (2006). Cortical substrates for exploratory decisions in humans. Nature, 441(7095), 876-879. 10.1038/nature04766
  • Nassar, M. R., Wilson, R. C., Heasly, B., & Gold, J. I. (2010). An approximately Bayesian delta-rule model explains the dynamics of belief updating in a changing environment. Journal of Neuroscience, 30(37), 12366-12378.

Часто задаваемые вопросы

У вас есть другой вопрос? Напишите нам.

Что проверяет задача об «изменчивом одноруком бандите»?

Обучение в ситуации, когда вероятности награды меняются непредсказуемо, — логика подкрепляющего обучения в изменяющейся среде.

Как ведут себя хорошие «ученики»?

Они следят за недавней историей наград и быстро переобязываются после разворотов, балансируя между липкостью (доверять свидетельствам) и гибкостью (замечать изменения).

Какие модели это описывают?

Ученики типа дельта-правила и фильтра Калмана с динамическими скоростями обучения; человеческие подстройки часто хорошо описываются такими моделями в вычислительной психиатрии.

О чём говорят мои выборы?

Ваша скорость адаптации после разворотов и общая собранная награда указывают на ваш стиль обучения в этой сессии; ни одна стратегия не является лучшей при всех режимах волатильности.

Об этом эксперименте

Этот эксперимент — учебная адаптация в демонстрационных целях. Он не является клиническим диагностическим инструментом. Результаты отражают ваши показатели в этом конкретном сеансе и не должны интерпретироваться как оценка ваших когнитивных способностей.

Конфиденциальность данных

Данные эксперимента обрабатываются и хранятся локально в вашем браузере. Никакие данные не загружаются на сервер, если вы явно не экспортируете их.

Угостите меня кофе