Исследователь ИИ Джейкоб Коксон: «Технологии ИИ могут угрожать обществу уже к концу десятилетия» – призыв к осторожности и дискуссии В этом заголовке акцентируется вызов, брошенный Джеком Коксоном в адрес широкого круга участников отрасли ИИ — от сотрудников до регуляторов, подчеркивая актуальность его мнения о безопасности и рисках при разработке технологий.

Статья уже хорошо структурирована и содержит важные детали, но некоторые элементы могут быть уточнены или улучшены для ясности и согласованности информации. Вот улучшенный вариант:

Исследователь в области искусственного интеллекта Джейкоб Коксон уволился из компании Anthropic и опубликовал страстное обращение на платформе X прошлой недели о рисках ИИ. Его сообщение, за 72 часа достигло аудитории более чем у 164 миллионов человек, что вызвало широкий отклик среди сотрудников индустрии ИИ и CEO компаний.

Джейкоб Коксон, который до этого работал в OpenAI, считает поведение обеих компаний небезопасным с точки зрения ответственности. В своем обращении он заявил: «Технологии искусственного интеллекта несут потенциальную угрозу для общества к концу десятилетия,» подчеркивая необходимость более осторожного подхода к разработке самоподнимающегося ИИ.

Важным дополнением было заявление от Эван Хабингера, старшего научного сотрудника по выравниванию в Anthropic, который поддержал Коксона. «Мы не достигли ясных шагов в решении вопросов безопасности и контроля за суперинтеллектом,» — добавил он, отметив недавний отчет об этих рисках.

Хотя ни OpenAI, ни Anthropic на момент публикации еще не предоставили официальных комментариев, публикация Коксона уже вызвала широкий резонанс с более чем 780 тысячами лайков. Это также привело к публичной поддержке со стороны других сотрудников обеих компаний. Например, Эттан Перес из команды выравнивания в Anthropic и Джулси Стилл из безопасности OpenAI выразили согласие с точкой зрения Коксона по необходимости замедления разработки ИИ для более тщательного рассмотрения вопросов безопасности.

Тем не менее, мнения о степени этих рисков разнились среди экспертов индустрии: некоторые специалисты видели опасность как преувеличение. Так, Крис Хэйдук от OpenAI отметил полезность технологий ИИ и необходимость конструктивного обсуждения их применения с акцентом на благотворные аспекты.

Реакция со стороны регулятивных органов также оказалась в связи с обращением Коксона: политические фигуры США обсуждали меры по регулированию ИИ, учитывая мнение из первых рук. Сенатор Марк Келли призвал к внимательному отношению к этим заявлениям, а сенатор Бернард Сандерс предложил введение законодательной инициативы для ограничения развития потенциально опасных видов искусственного интеллекта.

Открытое заявление также упомянуло спор между Ziff Davis, материнской компанией PCMag, и OpenAI вокруг вопросов авторских прав на обучающий материал для ИИ-систем. Это подчеркивает актуальность обсуждений по поводу безопасности не только в пользовательском контексте, но также с юридической точки зрения.

Такая подача информации лучше акцентирует основную мысль и более чётко структурирует различные аспекты реакции на заявление Коксона от ключевых фигур индустрии до политических решений.