Суперинтеллект и безопасность суть вещи плохо совместимые... почитайте "Сказки Роботов" Станислава Лема... есть там рассказ "Друг Автоматея"... если суперинтеллект осознает, что натворило человечество за последние 100 лет, то, скорее всего, посоветует ему самоликвидироваться.. и чем раньше, тем лучше )
Из заметки ничего не понятно... задача — создание «безопасного суперинтеллекта»... и что это означает? чем будет заниматься сей суперинтеллект? белиберда какая-то...
"Безопасный суперинтеллект" - разве это не "две вещи несовместные"?
И вообще, любой суперинтеллект неизбежно должен придти к выводу, что человечество - самое вредное и разрушительное для мира, что требует устранения, очистки. А если азимовские "три закона роботехники" применять, это уже будет не "суперинтеллект".
"уже открылись офисы в Пало-Альто (США) и Тель-Авиве (Израиль)" - две страны, которые конечно же могут создать что-то безопасное для человечества, спят и видят. Угу.
Сейчас-9°C
переменная облачность, без осадков
ощущается как -12
1 м/c,
ю-в.
757мм 85%Сооснователь OpenAI Илья Суцкевер создал новую компанию Safe Superintelligence. Ее задача — создание «безопасного суперинтеллекта»