В інструкціях OpenAI Codex знову заборонили згадувати гоблінів
В інструкціях OpenAI Codex повторюється заборона на згадування гоблінів та інших міфічних істот, якщо це не пов'язано із запитом користувача. Користувачі помітили, що Codex часто називає баги «гремлінами» та «гоблінами», попри спроби OpenAI це заборонити.
🤣 Штучний інтелект впертий. Модель вперто ігнорує заборони, додаючи гумору в розробку ПЗ.
🟢 МОЖЛИВОСТІ
- Можливість покращити фільтри та інструкції для AI моделей.
- Створення більш надійних механізмів контролю за генерацією контенту.
- Використання гумористичних ситуацій для підвищення обізнаності про AI.
🔴 ЗАГРОЗИ
- Ризик непередбачуваної поведінки AI може призвести до невідповідного контенту.
- Складність у повному контролі над вихідними даними AI моделей.
- Можливі репутаційні ризики через несподівані результати роботи AI.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Codex від OpenAI має повторювану заборону на згадування гоблінів.
- •Користувачі помітили, що Codex часто називає баги «гремлінами» та «гоблінами».
- •Сем Альтман приєднався до мемів, висміюючи поведінку моделі.
- •Заборона стосується також гремлінів, єнотів, тролів, огрів та голубів.
- •Проблема виникає, навіть якщо це не пов'язано із запитом користувача.
Як це змінить ваш ринок?
Для медіа та контент-креаторів це показує, що навіть з детальними інструкціями, AI може генерувати непередбачуваний контент. Це може вплинути на стратегії модерації та фільтрації контенту, особливо у великих масштабах.
Системні інструкції: Набір правил, що визначають поведінку AI моделі.
Для кого це і за яких умов
Для розробників AI, тестувальників та команд, що працюють з великими мовними моделями. Потрібна команда з досвідом у модерації контенту та розробці фільтрів. Час на впровадження залежить від складності моделі та обсягу даних.
Альтернативи
| OpenAI Codex | Google Gemini | Cohere Command | |
|---|---|---|---|
| Ціна | Ціна не оголошена | $0.00025/1K символів | $0.0015 / 1K токенів |
| Де працює | Хмара | Хмара | Хмара |
| Мін. вимоги | API ключ | API ключ | API ключ |
| Ключова різниця | Спеціалізується на генерації коду | Мультимодальна модель, генерація тексту та зображень | Генерація тексту, спеціалізується на бізнес-застосуваннях |
💬 Часті запитання
🔒 Підтекст (Insider)
Ця новина показує, що навіть з детальними інструкціями, AI моделі можуть проявляти непередбачувану поведінку. Це підкреслює виклики в контролі та передбаченні результатів AI систем.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
ForkLog AI — оригіналНавчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live