Читать книгу - "Машина эмоций - Марвин Мински"

Думаю, не ошибусь, если предскажу, что в будущих попытках создать крупномасштабные и способные к развитию машины с искусственным интеллектом те столкнутся со всеми видами психических заболеваний. Ведь если бы разум мог менять принципы своей работы, он бы подвергся опасности самоуничтожения. Быть может, это одна из причин того, что наш мозг разработал в процессе эволюции так много частично отделенных друг от друга систем, вместо того чтобы выстроить более объединенную и централизованную: возможно, существовали серьезные основания ограничить то, в какой степени разум может исследовать сам себя!

Например, ни одному отдельному способу думать нельзя слишком полно контролировать системы, которые мы используем для запоминания, в противном случае он сможет переписать все старые воспоминания человека. Сходным образом было бы опасно для любого ресурса слишком долго находиться в состоянии активности, ведь это может заставить остальной разум тратить все время на преследование единственной цели. Также если бы любой ресурс мог полностью подавлять наши инстинктивные побуждения, он заставил бы человека вообще не спать, или работать до полного изнеможения, или изморить себя голодом, – и то же самое можно отнести к любому ресурсу, способному контролировать системы, отвечающие за удовольствие и боль.

Пусть такие радикальные случаи редки, в основе множества распространенных человеческих недостатков лежит рост «ментальных паразитов», которые принимают формы самовоспроизводящихся наборов идей. Ричард Докинз назвал их в свое время мемами. Подобное собрание концепций может включать в себя способы роста и защиты путем подмены конкурирующих наборов идей – см. Блэкмор, 1999. Чтобы защититься от подобных крайностей, наш мозг научился находить баланс между чрезмерной централизацией и чрезмерным рассредоточением.

И тем не менее мы все равно уязвимы перед доктринами, философскими идеями, убеждениями и верованиями, которые распространяются среди всего народонаселения Земли. Сложно представить себе какой бы то ни было верный способ уберечься от подобных инфекций. Я считаю, что лучшее, что мы можем сделать, – это обучить наших детей навыкам критического мышления и методам научной проверки фактов.