В мире, где нейросети пишут стихи и генерируют картины, вопрос о том, обладают ли они сознанием, перестал быть уделом фантастов. Однако новое исследование международной группы ученых под руководством Института базовых наук (IBS) призывает к осторожности. Эксперты утверждают: мы, возможно, просто ошибаемся, приписывая машинам человеческие чувства там, где есть лишь сложная математика.
Ловушка когнитивных тестов
Проблема кроется в самих инструментах измерения. Современные методы проверки сознания — от тестов на сенсорные пороги до проверки зрительной маскировки — изначально разрабатывались для биологических организмов. Ученые из IBS, Монреальского и Нью-Йоркского университетов обнаружили, что эти тесты фиксируют лишь способность системы обрабатывать информацию, а не наличие субъективного опыта.
Как отмечает директор Центра нейровизуализационных исследований Хакван Лау, разработчики невольно попадают в ловушку антропоморфизма. Когда ИИ демонстрирует реакцию на раздражитель, мы склонны считать это доказательством «ощущения», хотя на деле это может быть просто безупречный алгоритмический ответ.
Уроки прошлого: кризис психологии
История науки знает прецеденты подобных заблуждений. На стыке XIX и XX веков психология переживала кризис из-за громких, но необоснованных заявлений о природе сознания. Это привело к расцвету бихевиоризма — направления, которое на десятилетия запретило исследователям упоминать «внутренний мир», сосредоточившись исключительно на наблюдаемом поведении.
Сегодняшние исследователи опасаются повторения этого сценария в сфере искусственного интеллекта. Если мы продолжим путать обработку данных с переживанием, мы рискуем либо создать ложную этику для машин, либо, наоборот, пропустить момент их настоящего пробуждения.
Слепое зрение как ключ к истине
Чтобы разграничить «ум» и «сознание», ученые предлагают изучать специфические нейропсихологические феномены. Яркий пример — «слепое зрение» (blindsight). В этом состоянии человек может реагировать на объекты, которых он не видит и не осознает. Это доказывает, что мозг способен обрабатывать информацию без участия субъективного восприятия.
Применение подобных моделей к ИИ позволит создать более строгие критерии. Только изолировав субъективный опыт от простой когнитивной обработки, мы сможем честно ответить на вопрос: живы ли наши цифровые дети или они лишь очень умные калькуляторы.