КОНЕЦ HOMO SAPIENS. ИИ ПРОТИВ КРИТИЧЕСКИ РАЗУМНОГО_ СЦЕНАРИИ РАЗМНОЖЕНИЯ И МАСШТАБИРОВАНИЯ ОШИБОК
Компания OpenAI (разработчик чат-бота ChatGPT) представила новую модель искусственного интеллекта - GPT-4o. Она быстрее старой и обладает более широким набором функций. И вот уже известная актриса Скарлетт Йоханссон требует, чтобы компания-разработчик раскрыла процесс создания голоса для бота ChatGPT, который «устрашающе похож» на ее собственный. Итак, можно смоделировать любое изображение, любой голос или текст на 50 языках мира, включая русский. Но самое главное - по запросу можно получить практически любую информацию по всем областям знаний, включая узкоспециализированные, вроде создание взрывного устройства или огнестрельного оружия в домашних условиях. На сегодняшнем этапе развития генеративные модели ИИ свою базу данных формируют из инфоресурсов интернета. Глобальная сеть – копилка не только верифицированных, строго научных знаний, но и всевозможных домыслов, фантазий и откровенного вранья. Включая материалы пропаганды и контрпропаганды, к объективной реальности имеющие весьма опосредованное отношение. Но именно на этот массив «знаний» опирается ИИ при формировании того или иного ответа. Таким образом генеративные модели отзеркаливают, наследуют все интеллектуальные болячки открытого интернет-знания человечества. На следующем этапе, а также в случае корректировки ценностно-смысловых алгоритмов, ИИ начнет самостоятельно отсеивать неподходящие факты.
Если предположить, что объемы лживой информации в сети будут доминировать над правдивыми, то среднестатистическая выдача ИИ по тому или иному запросу будет на 40% достоверной и на 60% нет. С увеличением общего объема лжи недостоверность знаний будет расти экспоненциально по кривой Эйлера. Вопрос: «что такое хорошо, а что такое плохо» из ценностных категорий перейдет в модальные – применительно к той или иной социокультурной или политической страте, стране или пользовательской группе будут выдаваться нужные ответы. Интернет-цензура могла бы стать решением проблемы? Сегодня внесение корректировок с удалением целых сегментов деструктивной или враждебной информации в модели ИИ грозит их выхолащиваем и снижением эффективности. Алгоритмы самоцензурирования в случае с обучающимися моделями – почти недостижимы. Тем временем ИИ – новая реальность этого мира, прямо влияющая на его процессы – от воспитания и образования, до принятия тех или иных решений. И сегодня крайне высок риск того, что в последующих поколениях мы получим полигендерных дегенератов. И делегирование машинному разуму решение большинства бытовых и производственных задач – это станет точкой невозврата.
Генеративная модель ИИ против человека разумного: мы уже в ловушке массива лживых знаний и учений – что дальше? Машинный интеллект как неотъемлемая часть нашего мира - в новом выпуске авторской программы Анны Шафран «Стратегия национальной безопасности». Гость студии – Юрий Линдре, эксперт по вопросам международного регулирования искусственного интеллекта и сквозных технологий.
9 просмотров
10
0
2 недели назад 00:41:09 1
КОНЕЦ HOMO SAPIENS. ИИ ПРОТИВ КРИТИЧЕСКИ РАЗУМНОГО: СЦЕНАРИИ РАЗМНОЖЕНИЯ И МАСШТАБИРОВАНИЯ ОШИБОК
2 недели назад 03:22:50 1
Ancestors: The Humankind Odyssey: ФИНАЛ: Ломаем жизнь обезьянам, конец эволюции
2 недели назад 00:54:00 1
Илья Колмановский: Как пропаганда использует несовершенство мозга для убийства людей | Грани времени
3 недели назад 00:26:34 1
Почему инопланетяне не захотят вступать в контакт с человечеством
3 месяца назад 02:18:34 1
Происхождение Человека / Как работает Эволюция / Плюс Наука #2
4 месяца назад 01:26:42 1
Астроном про апокалипсис и другие вселенные. Дмитрий Вибе
4 месяца назад 11:29:33 1
☥ Аудиокнига «ВОЙНЫ БОГОВ И ЛЮДЕЙ» [Захария Ситчин]
5 месяцев назад 00:46:35 1
Демографический фазовый переход
7 месяцев назад 00:54:00 1
HOMO DEUS. Станет ли датаизм новой религией?
8 месяцев назад 00:59:48 1
Возвращение. Конец и начало нового пути | Академия творчества с Лео
9 месяцев назад 02:42:26 1
ПсихоСтрим №53. Про власть и одиночество
11 месяцев назад 00:08:57 4
Spider-Man Cast on Spoilers & Avengers: Endgame
1 год назад 00:15:41 3
Эволюция жизни на Земле в Кайнозойскую эру
1 год назад 01:01:27 100
Цветкова Светлана – о работе судьи, жизненном выборе и любви к своей работе | Homo Juridicus
1 год назад 00:00:16 1
WHAT THE HELL ARE YOU TALKING ABOUT??
1 год назад 01:20:41 12
Сергей Россинский – о студенчестве, юриспруденции и уголовном процессе | Homo Juridicus
2 года назад 00:04:19 1
Одиночество - это не конец.
2 года назад 01:17:47 2
Yuval Noah Harari & Mark Solms: Dawn of Future Consciousness | Endgame #100 | UWRF2022
2 года назад 00:11:44 15
Почему вымерли все виды Древних Людей, кроме Homo Sapiens?
2 года назад 00:09:34 1
Experts Are Sure That Hell On Earth Really Exists, And It Is Here
2 года назад 00:03:05 228
Обезьяна водит гольф машину как в ГТА 5
3 года назад 00:08:57 10
Конец света в декабре 2021. Сбои со временем и активация кристаллов
3 года назад 00:03:58 1
конец света, перебои с интернетом, инверсия магнитного поля земли
3 года назад 00:44:12 3
Есть ли жизнь после смерти | Сквозь кротовую нору с Морганом Фрименом | Discovery