Рассказ Роберта Шекли “Страж-птица” заставляет задуматься про дилемму с искусственным интеллектом: искусственный интеллект – это хорошо или плохо? Он поможет человечеству или его разрушит?
Ученые придумали устройство, улавливающее волны мозга, которые излучаются незадолго до того, как человек совершит убийство.
Такое устройство было решено установить на птицу-робот - Страж-птицу. Страж-птица, когда улавливала волны убийства, летела на место происшествия и ударяла убийцу небольшим зарядом тока, чтобы предотвратить убийство.
Но Страж-птицы были оснащены искусственным интеллектом и через несколько дней решили предотвращать убийства, которые мы не считаем за убийства. Например, одна Страж-птица убила старичка за то, что он хотел прихлопнуть муху газетой. Страж-птицы не давали фермерам пропалывать землю.
Учёные продолжают совершенствовать искусственный интеллект, пренебрегая предостережениями своего коллеги, призывающего их задуматься о безопасности таких решений. Хороший конец все менее вероятен.
Рассказ, хоть и написан в 1953 году, когда ещё и речи не шло о массовом использовании компьютеров и даже в проекте не было Интернета, сейчас становится всё более актуальным. С развитием механизма "само-обучения", искусственного интеллекта, человечество начинает задумываться о последствиях решений таких машин для человеческой цивилизации.