Русская рулетка с ИИ
Русская рулетка с ИИ
Ученые Калифорнийского университета в Мерседе обнаружили тревожную тенденцию: люди слишком сильно доверяют искусственному интеллекту в критических ситуациях. Исследователи провели эксперимент, в котором участники принимали решения о жизни и смерти в условиях выдуманного военного конфликта.
Добровольцы управляли виртуальным вооруженным беспилотником. Их задачей было определить, является ли цель на экране врагом или союзником, и принять решение об атаке или отступлении. После того, как человек делал выбор, робот высказывал свое мнение, которое на самом деле генерировалось случайным образом.
Несмотря на предупреждение об ограниченных возможностях ИИ и вероятности ошибок, около двух третей участников меняли свое первоначальное решение. Профессор Колин Холбрук, один из руководителей исследования, отмечает, что такое чрезмерное доверие к ИИ должно нас насторожить, особенно учитывая стремительное развитие технологий.
@SciTechQuantumAI
Ученые Калифорнийского университета в Мерседе обнаружили тревожную тенденцию: люди слишком сильно доверяют искусственному интеллекту в критических ситуациях. Исследователи провели эксперимент, в котором участники принимали решения о жизни и смерти в условиях выдуманного военного конфликта.
Добровольцы управляли виртуальным вооруженным беспилотником. Их задачей было определить, является ли цель на экране врагом или союзником, и принять решение об атаке или отступлении. После того, как человек делал выбор, робот высказывал свое мнение, которое на самом деле генерировалось случайным образом.
Несмотря на предупреждение об ограниченных возможностях ИИ и вероятности ошибок, около двух третей участников меняли свое первоначальное решение. Профессор Колин Холбрук, один из руководителей исследования, отмечает, что такое чрезмерное доверие к ИИ должно нас насторожить, особенно учитывая стремительное развитие технологий.
@SciTechQuantumAI
Канал источник:@SecLabNews