В докладе Королевского научного общества и Британской академии, говорится, что в робототехнике нет нужды применять три закона Азимова, так как их можно заменить одним универсальным правилом: «Человек должен преуспевать».
Принцип процветания человечества должен быть положен в основу всего управления системами искусственного интеллекта, так как он объединяет в себе все три закона, цитирует ВВС профессора Оттолайна Лейзера, сопредседателя группы научных советников Королевского общества.
Напомним, что американский писатель Айзек Азимов первым сформулировал три закона, определявшие взаимоотношения между людьми и роботами. Эти законы сформулированы так:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
Робот должен повиноваться всем приказам, которые дает человек, кроме случаев, когда эти приказы противоречат Первому закону;
Робот должен заботиться о своей безопасности, пока это не противоречит Первому или Второму законам.
Но у британских ученых свое мнение по этому поводу. Здесь тоже осознают потенциальную опасность искусственного интеллекта, однако считают, что с ним можно будет договориться демократическим путем. В частности, в докладе содержится призыв к созданию новой организации, которая должна позаботиться о том, чтобы умные машины служили обществу, а не контролировали его; а для регулирования разработки самообучающихся машин необходима система демократического надзора. Без подобной системы такие машины могут причинить человечеству страшный вред, утверждают британские ученые.
Доклад призывает установить для роботов правила, по умолчанию ставящие интересы человека превыше интересов машины. Причем, создание такой системы правил не может опираться исключительно на технические стандарты. Умные машины должны руководствоваться этическими и демократическими ценностями, заявил один из авторов доклада Энтони Уокер.
В докладе предлагается создание некоего «наблюдательного совета» в составе экспертов и заинтересованных сторон, которые займутся созданием этической базы для технологических разработок в области искусственного интеллекта.