Последнее предупреждение Илона Маска об искусственном интеллекте: стоит ли нам создавать цифровой суперинтеллект

Оригинальное название: Elon Musk’s Final Warning About AI: Should We Create a Digital Superintelligence? Ссылка на оригинальное видео: Дата публикации оригинала: 19 сентября 2020 г. Переведенное описание: Илон Маск неоднократно предупреждал об опасностях искусственного интеллекта. Он один из многих общественных мыслителей, которые выразили обеспокоенность по поводу рисков, связанных с искусственным интеллектом. В частности, цифровой суперинтеллект, как его называет Илон. Хотя системы искусственного интеллекта продолжают совершенствоваться, они также поднимают фундаментальный вопрос о выживании нашего вида. Опасность ИИ невозможно переоценить. Проблема выравнивания ИИ, вероятно, является самой важной задачей, которую человечество должно решить с первого раза, потому что у нас может никогда не появиться шанса попробовать еще раз. Илон Маск считает, что нам следует действовать очень и очень осторожно, если мы коллективно решим, что создание цифрового сверхинтеллекта — правильный шаг. Наша неспособность осознать и справиться с возможными последствиями, которые возникнут вместе с созданием цифрового Суперинтеллекта, может оказаться нашим крахом. Сверхразум будет способен к быстрому обучению и неограниченной памяти, что делает его потенциально превосходящим существом. Изучать ОИИ сложно, но возможные результаты вызывают беспокойство. У Суперинтеллекта может быть период быстрого роста, он захватит каждую компьютерную систему и сократит человеческую расу до небольшого и несущественного присутствия. К сожалению, AGI будет одновременно очень умным и ограниченным в ресурсах, поэтому в конечном итоге он сочтет свое собственное выживание оптимальным. Это может привести к тому, что он станет угрожать другим разумам, которые когда-то были его союзниками, и даже может их уничтожить. Если предположить, что цифровой Суперинтеллект можно будет контролировать, тогда он будет находиться под управлением человека. Для чего он будет использоваться? #ИлонМаск #AGI #ИИ ПОДПИСЫВАЙТЕСЬ на наш канал «Время науки»: ПОДДЕРЖИТЕ нас на Patreon: КУПИТЬ товары Science Time: Источники: Интервью Илона Маска на SXSW: Сэм Харрис AI Ted Talk: ? v=8nt3edWLgIg&t=0 с