В рассказе "Хоровод", выпущенном в рамках цикла фантастических произведений "Я, робот" в 1942 году Айзек Азимов для своего вымышленного мира создал свод правил, коим должен был следовать каждый робот при взаимодействии с человеком – законы робототехники. Несмотря на свою фантазийную природу, многие и сегодня склоняются к тому, что данные ограничения можно было бы использовать и в реальной жизни, распространяя их на мыслящие роботизированные механизмы.
В сущности, три закона робототехники выглядят следующим образом:
- Робот не должен наносить какой-либо вред человеческому здоровью, создавать угрозу жизни или своим бездействием допускать аналогичные последствия;
- Роботу вменяется в обязательном порядке исполнять приказы, отдаваемые человеком. Единственное исключение – отдаваемый приказ не должен противоречить предыдущему положению;
- Роботу вменяется беспокоиться о собственной безопасности в той степени и в том объеме, в которых его действия не опровергают два предыдущих пункта.
Вышеперечисленные законы робототехники Азимова в рассказах внедрялись непосредственно в ПО и надежно защищены от пересмотра и переписывания. Хотя несовершенство данного свода стало явным практически сразу – лазейки, неточности и неясности довольно часто приводили к нелогичному и неправильному поведению роботов. Этому способствовал целый ряд причин, среди которых неточная, расплывчатая формулировка и сложность в нахождении различий между "людьми" и "роботами". Однако самым распространенным обстоятельством, ввиду коего нарушались 3 закона робототехники, были неосознанные действия машин и попытки чрезмерно изворотливых роботов или ИИ перепрограммировать собственное ядро.
Несмотря на свою историю длительностью в много десятков лет, эта тематика остается актуальной и по сей день. Многое из того, что еще пару десятков лет назад было немыслимым, становится потенциально или даже явно возможным. К слову, мир, описанный Айзеком Азимовым, с некоторыми оговорками удивительно напоминает сегодняшний. При этом, согласно заявлениям создателя, написанные законы робототехники вполне могли бы быть применены и в реальной жизни. В интервью журналу Compute! 1981 году он отмечал: "Когда у меня спрашивали, возможно ли использование данных законов в самом деле, ответ был ясен заранее. Однако для этого требуется, чтобы роботы были в надлежащей мере разносторонними и универсальными, чтобы быть способными на различные схемы поведения".
К сожалению, оптимизм всемирно известного фантаста многие ученые не разделяют. Так, три закона робототехники тщательно изучали и анализировали два теоретика ИИ: Бен Герцель (Аидия Холдингс) и Луи Хельм (Институт MIRI). И они совершенно уверены, что положения наверняка не осилят препорученную миссию. Согласно их докладу, Айзека Азимова законы робототехники имеют три ключевых недостатка:
- обладают состязательной сущностью;
- базируются на неактуальной сегодня этической теории (деонтологии);
- удивительно, но и во вселенной фантаста роботы не способны надлежаще реализовывать собственное предназначение.
Несмотря на все свои изъяны, законы робототехники Азимова стали первой честной попыткой охватить огромную технологическую сферу, положив начало долгому пути поисков и исследований. К примеру, не так давно Google опубликовал свое видение безопасного ИИ, сформулировав свои пять законов робототехнических механизмов.
Подробнее ознакомиться с учебным оборудованием по робототехнике вы можете на нашем сайте.