Нейросети ChatGPT и DeepSeek теперь не отвечают на рабочие вопросы с 9:00 до 18:00

В то время как в соцсетях можно встретить множество мнений по поводу того, что современные нейросети улучшают/облегчают работу людей или даже способны заменить работников некоторых сфер, реальное положение дел, судя по всему, несколько иное. Работодатели крупных компаний из финансового и IT-секторов всё чаще сталкиваются с негативным влиянием ИИ на работу сотрудников. Так, часть американских корпораций столкнулись с ошибками и неточностями, вызванными так называемыми галлюцинациями языковых моделей, которым сотрудники поручают выполнить рабочие задачи. А в Европе большинство затронутых организаций опасаются рисков, связанных с конфиденциальностью — внутренние задачи должны не покидать стены офисов, однако работники (несмотря на все запреты) делятся информацией с различными нейронными сетями, включая китайские. В связи с возникшей проблемой, дабы избежать суровых мер борьбы с проблемой со стороны корпораций (наподобие полной блокировки), разработчики ChatGPT и DeepSeek пошли на неожиданный ход — компании договорились настроить свои нейросети так, чтобы они отказывались отвечать на вопросы, похожие на рабочие задачи, в период с 9:00 по 18:00 в рабочие дни. Для реализации нового ограничения на рабочие запросы был разработан алгоритм фильтрации на основе специально обученной подмодели, получившей название WorkTimeAwareNet (WTAN). Эта модель является дополнительным слоем нейронов, интегрированным непосредственно перед генерацией ответа основной нейросетью. WTAN прошла предварительный этап обучения на большом наборе данных, включавшем примеры типичных рабочих вопросов и задач из финансовой и IT-сфер, а также некоторых других. При поступлении запроса в нейросеть, WTAN сначала проводит классификацию текста по множеству параметров, включая лексику, терминологию, структуру запроса и даже эмоциональную окраску. В случае если запрос признаётся рабочим и отправлен в период с 9:00 до 18:00 рабочего дня, нейросеть автоматически активирует модуль отказа, возвращая пользователю вежливое сообщение о невозможности обработки запроса в рабочее время. При этом, по словам разработчиков, точность WTAN составляет 98,7%, а ложные срабатывания могут происходить лишь при запросах, которые находятся на грани рабочих и личных интересов. Нововведения вступили в силу сегодня, 1 апреля 2025 года.

Апр 1, 2025 - 04:12

Нейросети ChatGPT и DeepSeek теперь не отвечают на рабочие вопросы с 9:00 до 18:00

В то время как в соцсетях можно встретить множество мнений по поводу того, что современные нейросети улучшают/облегчают работу людей или даже способны заменить работников некоторых сфер, реальное положение дел, судя по всему, несколько иное. Работодатели крупных компаний из финансового и IT-секторов всё чаще сталкиваются с негативным влиянием ИИ на работу сотрудников. Так, часть американских корпораций столкнулись с ошибками и неточностями, вызванными так называемыми галлюцинациями языковых моделей, которым сотрудники поручают выполнить рабочие задачи. А в Европе большинство затронутых организаций опасаются рисков, связанных с конфиденциальностью — внутренние задачи должны не покидать стены офисов, однако работники (несмотря на все запреты) делятся информацией с различными нейронными сетями, включая китайские.

В связи с возникшей проблемой, дабы избежать суровых мер борьбы с проблемой со стороны корпораций (наподобие полной блокировки), разработчики ChatGPT и DeepSeek пошли на неожиданный ход — компании договорились настроить свои нейросети так, чтобы они отказывались отвечать на вопросы, похожие на рабочие задачи, в период с 9:00 по 18:00 в рабочие дни.

Для реализации нового ограничения на рабочие запросы был разработан алгоритм фильтрации на основе специально обученной подмодели, получившей название WorkTimeAwareNet (WTAN). Эта модель является дополнительным слоем нейронов, интегрированным непосредственно перед генерацией ответа основной нейросетью. WTAN прошла предварительный этап обучения на большом наборе данных, включавшем примеры типичных рабочих вопросов и задач из финансовой и IT-сфер, а также некоторых других. При поступлении запроса в нейросеть, WTAN сначала проводит классификацию текста по множеству параметров, включая лексику, терминологию, структуру запроса и даже эмоциональную окраску. В случае если запрос признаётся рабочим и отправлен в период с 9:00 до 18:00 рабочего дня, нейросеть автоматически активирует модуль отказа, возвращая пользователю вежливое сообщение о невозможности обработки запроса в рабочее время. При этом, по словам разработчиков, точность WTAN составляет 98,7%, а ложные срабатывания могут происходить лишь при запросах, которые находятся на грани рабочих и личных интересов.

Нововведения вступили в силу сегодня, 1 апреля 2025 года.