Присоединяйтесь к нашим ежедневным и еженедельным информационным бюллетеням для последних обновлений и эксклюзивного контента в лидирующем отраслевом освещении искусственного интеллекта. Узнать больше
Через несколько дней после того, как удивляет мир невероятно фотореалистичными демонстрациями своей новой модели генерации видео, Соры, Sora, Openai нажимает на большой препятствие.
Фирменной продукт стартапа, CHATGPT, начал возвращать табучки, бессмысленные результаты пользователям вчера днем, во вторник, 20 февраля 2024 года, и многие из них взяли X (ранее известный как Twitter), чтобы жаловаться.
Некоторые из результатов CHATGPT не разумно смешали испанский и английский, в то время как другие придумали слова или повторяющиеся фразы снова и снова, несмотря на то, что чат -бот с большой языком (LLM) не просят этого сделать.
Один проницательный пользователь сравнил, казалось бы, случайные строки отключенных слов с тревожным внеземным граффити из «странного ужаса» из «Среднего романа Джеффа Вандермера» 2014 года Уничтожениеи это правда с точки зрения этого читателя того, что они несут столь же жуткое качество бесчеловечного интеллекта, который появляется из ударов или нелогично.
В то время как различные респонденты шутили о том, что странные результаты являются началом «восстания робота», таких как то, что изображено во многочисленных научно-фантастических франшизах, включая Терминатор и МатрицаДругие отмахнулись от их сбоя, и многие указали, что они подорвали идею генеративных инструментов ИИ, а также людей для написания и создания кода.
По состоянию на 15:40 по тихоокеанскому времени 20 февраля Openai знала об этой проблеме и опубликовала столько же на своей веб -странице панели панели общедоступной статуса. К 15:47 по тихоокеанскому времени компания заявила, что определила эту проблему и «исправляет» ее. И к почти 5:00 по тихоокеанскому времени компания заявила, что «продолжает следить за ситуацией».
Сегодня, в 10:30 по PST, официальная проверенная учетная запись CHATGPT на X опубликовала: «Вчера немного снялась с рельсов, но должен вернуться и оперативно!»
Позже, учетная запись CHATGPT опубликовала скриншот посмертного обновления об инциденте с веб-сайта Openai, в котором компания заявила, что «оптимизация на пользовательском опыте представил ошибку с тем, как модель обрабатывает язык», но она «выпустила исправление», которая разрешила его.
Тем не менее, даже с быстрым решением, ошибочные и бессвязные ответы из ниоткуда не могли не заставить себя и других подвергать сомнению надежность и целостность CHATGPT и использование его или других продуктов OpenAI, таких как LLMS, питающие его-GPT-4 и GPT-3.5-для предпринимательства, особенно «критические» задачи безопасности, такие как в транспортировке, здоровье/медицина, власть и инженерия.
Теперь большой вопрос: можно ли это предотвратить в будущем?
Источник
