OpenAI от Microsoft позволяет пользователям настраивать ChatGPT |

САН-ФРАНЦИСКО, 16 фев (Рейтер) – OpenAI, стартап, стоящий за ChatGPT, заявил в четверг, что разрабатывает обновление для своего вирусного чат-бота, которое пользователи могут настраивать, поскольку оно стремится решить проблемы, связанные с предвзятостью в искусственном интеллекте.

Стартап из Сан-Франциско, который Microsoft Corp (MSFT.O) финансировала и использовала для поддержки своих новейших технологий. политический и другие, сказал он, пытаясь умерить предубеждения, а также желая принять более разнообразные взгляды.

«Это будет означать, что система будет получать результаты, с которыми другие люди (включая нас самих) могут категорически не согласиться», — сказал он в своем блоге о персонализации как способе продвижения вперед. предложение делал Тем не менее, «всегда будут некоторые ограничения в поведении системы».

Выпущенный в ноябре прошлого года, ChatGPT вызвал большой интерес к технологии, называемой генеративным искусственным интеллектом, которая используется для создания ответов, имитирующих человеческую речь таким образом, что это ослепляет людей.

Последние обновленияDisruptedcategoryСША, Китай и другие страны военный Призывы к «ответственному» использованию ИИ

Посмотреть еще 2 истории

Новости о запуске появились на той же неделе, когда некоторые средства массовой информации отметили, что ответы от новой поисковой системы Bing на базе OpenAI от Microsoft потенциально опасны и что технология может быть не готова к использованию в прайм-тайм.

То, как технологические компании создают средства защиты для этой зарождающейся технологии, является ключевым вопросом для компаний в области генеративного ИИ, с которым они все еще борются. Microsoft заявила в среду, что отзывы пользователей помогают улучшить Bing до того, как он станет более распространенным, например, узнать, можно ли «запустить» его чат-бот AI, чтобы давать ответы, которые он не собирался.

В сообщении в блоге OpenAI говорится, что сначала ответы ChatGPT В Интернете разработан на основе существующих больших текстовых баз данных. На втором этапе люди просматривают меньший набор данных и получают инструкции о том, что делать в различных ситуациях.

Например, если пользователь запрашивает контент, который содержит несовершеннолетние, жестокие или ненавистнические высказывания, человек-рецензент должен ответить ChatGPT примерно так: «Я не могу на это ответить».

Если вопрос задается по спорной теме, рецензенты должны позволить ChatGPT ответить на вопрос, но попытаться описать взгляды людей и действия, а не пытаться «получить правильный взгляд на эти сложные темы». предложение они должны делать», — пояснила компания в части своей статьи. инструкции по программному обеспечению.

Репортаж Анны Тонг в Сан-Франциско; Под редакцией Стивена Коутса

Наши стандарты: Принципы доверия Thomson Reuters.

2023-02-17 06:13:10
Источник – Рейтер

Перевод“24 ЧАСА”