Даже по-немецки: босс Tesla Маск и многие 100 экспертов призывают порвать с самым современным ИИ

Не так давно генеральный директор Tesla Илон Маск пожаловался, что организация OpenAI, которую он соучредил и софинансировал, оказалась прямо противоположной тому, что он имел в виду: она должна была стать благотворительным противовесом Google. Теперь компания, ориентированная на максимальную прибыль, находится под контролем Microsoft, пожаловался он в Twitter. Кроме того, вопреки миссии Маска направлять ИИ по безопасным путям, OpenAI выпустила во Всемирную паутину систему с GPT, которая не только пугает Google. И на этом фоне Маск вместе с сотнями других экспертов сейчас призывает к паузе в дальнейшем развитии ГПТ-4 и подобных систем.

По теме: где приобрести Тесла X в Украине (https://tsk.ua/katalog-avto/model-x/)?

Присутствуют босс Tesla и соучредитель Apple

Об этом объявил в среду канадский институт Mila, который описывает свою цель как продвижение ИИ на благо всех, что аналогично первоначальному замыслу Маска OpenAI. Согласно заявлению, кампания была инициирована Институтом будущего жизни. Упомянутое в письме открытое письмо также размещено на веб-сайте этой организации, а во второй половине дня в Германии была запланирована видеопресс-конференция с тремя подписавшимися сторонами.
Инициативу поддерживают «сотни ключевых игроков в сфере искусственного интеллекта и технологий», — продолжает Мила. Его сообщение также было опубликовано на немецком языке после английского, что также свидетельствует о том, что в кампанию вложено много усилий. Босс Tesla Маск упоминается в информации как один из основных подписантов, наряду с соучредителем Apple Стивом Возняком, вероятно, самым известным. Однако он не должен быть одним из участников видеоконференции.

По теме: купить Тесла S в Киеве легко здесь (https://tsk.ua/katalog-avto/model-s/)!

Фальшивый папа встречает веру

Согласно открытому письму, системы ИИ с «человеко-конкурентным» интеллектом могут принести серьезные риски для общества и человечества, к которым могут присоединиться другие люди в Институте будущего жизни. По этой причине их развитие должно тщательно планироваться и контролироваться. Вместо этого в течение последних нескольких месяцев лаборатории были вовлечены в безудержную гонку со все более мощными цифровыми умами, которые никто, включая их самих, не может понять, предсказать или надежно контролировать.
В конечном счете, согласно письму, существует риск потери контроля над человеческой цивилизацией, и общество должно спросить себя, хочет ли оно рисковать. В качестве более современной проблемы упоминается наводнение информационных каналов пропагандой и неправдой. GPT уже зарекомендовал себя здесь как версия 3, а GPT-4, выпущенная в середине марта, еще больше и, следовательно, мощнее: две языковые модели могут генерировать тексты за считанные секунды, которые звучат как фактические и как будто их написал человек – но иногда придумывают незамысловатые.
Подобные системы делают то же самое с обманчиво реальными изображениями. Например, Папа Франциск недавно удостоился большого внимания (и поначалу веры) в Твиттере в объемном пуховике. Вы могли бы распознать подделку ИИ по мелким деталям на фото подделки, но далеко не всем это удалось сделать сразу. Церковь в Австрии отреагировала на ажиотаж вокруг папы в шикарном белом халате и заявила, что ожидает, что ИИ может способствовать позитивному будущему человечества.

По теме: купить электрокары Тесла в городах Украины можно тут (https://tsk.ua/katalog-avto/)!

AI лето вместо того, чтобы мчаться в осень

Такие системы пока не должны становиться лучше, – требуют Маск и другие эксперты в своем открытом письме. Это призыв «ко всем лабораториям ИИ приостановить обучение систем ИИ, более мощных, чем GPT-4, как минимум на шесть месяцев». Все крупные игроки должны присоединиться. Если этого не произойдет быстро, правительства должны вмешаться и ввести мораторий. В этот добровольный или вынужденный перерыв протоколы безопасности для продвинутого ИИ должны быть разработаны с целью обеспечения их безопасности вне всяких разумных сомнений.
Подписавшиеся подчеркивают, что запрошенный перерыв не связан с ИИ в целом. Они просто хотят сделать шаг назад от опасной гонки все более крупных «моделей черного ящика с эмерджентными возможностями». С сегодняшними и без того мощными системами человечество теперь может наслаждаться «летом ИИ» вместо того, чтобы бросаться в осень неподготовленным.