ИТ Главная страница Новости от 23 мая, согласно сообщению Business Insider во второй половине дня 23-го числа (сегодня), OpenAI опубликовала информацию о наборе исследователей в области безопасности для изучения проблем, которые могут возникнуть, когда ИИ сможет обучить «более сильную версию» самого себя.
На сайте агрегирования вакансий показано, что эта вакансия предназначена для группы безопасности OpenAI Readyness и будет опубликована в этом месяце. Годовая зарплата на этой должности достигает От 295 000 до 445 000 долларов США(Примечание IT Home: текущий обменный курс составляет от 2,008 до 3,03 миллиона юаней). Цель — найти»Сильный технический переводчик, способный поддерживать рекурсивную подготовку к самосовершенствованию.“.
В описании вакансии говорится: «Эта работа зависит от рассуждений о проблемах, которые могут существовать в будущем, но могут не существовать сегодня. Вот почему эта должность особенно необходима.хороший вкус и стратегия(вкусные и стратегические) таланты. “
В настоящее время OpenAI сосредоточена на автоматизации собственной исследовательской работы. В октябре прошлого года генеральный директор Альтман заявил, что цель OpenAI — добитьсяИспользование сотен тысяч чипов для запуска «автоматизированных исследований искусственного интеллекта»и добиться»Настоящий исследователь автоматизированного ИИ“Вполне возможно, что мы этого не добьемся”, – добавил он. Но, учитывая масштабы потенциального воздействия, мы считаем, что публичное заявление об этих целях отвечает общественным интересам. “
В апреле этого года Anthropic опубликовала исследование, в котором попыталасьИспользуйте модели ИИ для управления более мощными моделями ИИ.с ограниченными, но положительными результатами. В мае этого года Джек Кларк, соучредитель и политический директор Anthropic, заявил, что к концу 2028 года вероятность того, что исследования и разработки ИИ будут полностью независимы от участия человека, составит «около 60%».
В этой информации о наборе персонала OpenAI упоминается, что исследователям, как ожидается, понадобятсяСосредоточьтесь на том, как защититься от атак «отравления данных».то есть поведение злоумышленников, разрушающих модели ИИ путем обучения данных; его необходимо разработать дляОбъясните процесс рассуждения модели.Инструменты или для понимания безопасности и потенциальных рисков моделей посредством экспериментов; необходимо «отслеживать ход автоматизации технических позиций», в том числе измерять использование инструментов программирования ИИ.
Отказ от ответственности: внешние ссылки перехода (включая, помимо прочего, гиперссылки, QR-коды, пароли и т. д.), содержащиеся в статье, используются для передачи дополнительной информации и экономии времени выбора. Результаты предназначены только для справки. Это утверждение содержится во всех статьях IT House.
