В начале этого года компания Microsoft уволила свой отдел по безопасности и этике работы с ИИ, а совсем недавно стало известно, что большинство техногигантов поступают ровно тем же самым образом со своими командами в рамках сокращения количества сотрудников.
Все это было сделано ради того, чтобы побыстрее выпустить свой продукт на основе ИИ на рынок, отчего безопасность, этика и правильное обучение ИИ-систем у всех крупных компаний отошло на второй план, и это может негативно сказаться на качестве работы ИИ-систем уже в ближайшем будущем.
На фоне взрывного роста и невероятной популярности ChatGPT, Microsoft Bing и аналогичных продуктов, основанных на нейросетях, многие известные ученые, бизнесмены и влиятельные персоны из IT-индустрии высказали свое опасение насчет бесконтрольного влияния ИИ-моделей на современное общество.
Этот призыв вышел в открытом письме, под которым подписалось свыше 1100 человек, и среди известных личностей его подписали Илон Маск, Стив Возняк, ученые из ведущих университетов США, разработчики ИИ-систем, а также основатели различных IT-компаний.
Авторы письма крайне обеспокоены тем, что из-за жесткой конкурентной среды при отсутствии должного контроля со стороны корпораций общество может предстать перед угрозой появления ИИ-разумов, которые смогут заменить людей во всех привычных сферах деятельности.
Также в этом письме акцентируется внимание на том, что конкурирующая гонка среди ИИ зашла уже слишком далеко, поскольку разработчики, в погоне за популярностью и желанием урвать свой кусок, совершенно перестали контролировать свой продукт, отчего дальнейшее развитие ИИ-систем выглядит крайне туманно, а работа с ними может привести к печальным последствиям.
Тем не менее, пока это письмо является лишь открытым обращением, а его участники не призывают отказаться от ИИ-систем. Они просят создателей нейросетей сотрудничать с государственными органами, задуматься о регулировании всей отрасли, а также выработать протоколы безопасности, чтобы разивитие ИИ проходило под строгим контролем со стороны людей. В противном случае, они призывают запретить использование ИИ на законодательном уровне.
💬 Наша группа VK: https://vk.com/mmainbrand
➡ Telegram-канал: https://t.me/mainbrandru
