Душа роботов и смежные права

Человечество стоит на цифровом перепутье. Роботы пока несовершенны, а систем вроде «Скайнет» из кинофильмов про Терминатора еще не существует. Но в то же время даже создатели больших нейронных сетей уже слабо представляют себе, что внутри этих нейросетей происходит.

Максим Кононенко, обозреватель:
А недавние истории с чат-ботами, которые очень быстро научились у людей самому плохому, не дают оснований предполагать, что, даже когда роботы станут совершенными, нам с вами станет от этого лучше.
Причем виноваты во всех возможных печальных последствиях будут, конечно, не нейросети и роботы. А именно люди. Причем даже не в силу того, что они все это создали. А в силу того, что они вот-вот начнут защищать права роботов и нейросетей.
Вот, скажем, один из магазинов в Шотландии на днях уволил робота по имени Фабио. Робот должен был помогать покупателям с поиском продуктов. Но оказался туповат и плохо отвечал на вопросы. Например, на вопрос: «Где молоко?» — робот отвечал, что оно в холодильнике. Но где сам холодильник, робот покупателю не показывал. Иногда вообще не отвечал на вопросы, а иногда плоско шутил. В общем, покупатели стали обходить робота стороной, и руководство магазина приняло решение отправить его назад производителю.
А теперь представьте себе какую-нибудь организацию, защищающую права роботов. Ведь есть же организации, защищающие права животных и добивающиеся признания прав личности за шимпанзе. Дала бы такая организация уволить умственно неполноценного робота?
Вот вы сейчас, верно, думаете, что я совсем уже заговариваюсь. А я вам на это скажу, что давеча представитель компании Microsoft заявил на официальном форуме поддержки, что отключение функции автообновления операционной системы Windows — внимание — попадает под статью 146 Уголовного кодекса Российской Федерации. «Нарушение авторских и смежных прав». Лишение свободы на срок до 2 лет, между прочим.
Понимаете? Уже сейчас существуют люди, защищающие право операционной системы Windows на автоматическую загрузку обновлений. Даже если пользователь не хочет никаких обновлений, потому что у него мало места на диске и вообще все работает.
Так что запрет на увольнение роботов из магазинов — это вовсе не такая уж несбыточная фантастика, как вы могли бы подумать. Ведь даже создатели не очень понимают, что происходит внутри больших нейронных сетей.
А вдруг там, извините, душа?
Впервые: https://www.facebook.com/maxim.kononenko.3