Microsoft узгодила з профспілкою учителів нові правила використання ШІ в школах США, які забороняють функції, що створюють емоційну прив’язаність або тримають увагу учнів довше за необхідно. Компанія також зобов’язалася не використовувати дані школярів і вчителів для навчання моделей, реклами або розробки продуктів, а дотримання буде перевіряти незалежний аудитор з 1 листопада.
Стаття пояснює, що LLM навчаються етапами: спочатку передбачають текст, потім вчаться спілкуватися, а потім — розуміння та використання інструментів. Це пояснює, чому їх називають 'фантастичним автодоповненням', хоча вони можуть робити більше.
Теренс Тао, відомий математик, заявляє на Science x AI Summit у Калтехе, що розвиток ШІ йде надто швидко без причини. Він використовує ШІ у своїй роботі, але занепокоєний гонкою за швидкістю за розумінням результатів.
Автор емпірично оцінює методи неперевчання та інокуляції на моделі Qwen2.5-1.5-Instruct за допомогою іграшкових наборів даних. Виявлено, що навчані підходи (адаптери, м'які підказки, префікси) демонструють компроміс між пригніченням небажаних рис та вираженням бажаних, тоді як ручні підказки показують погані результати.
Стартап Vals залучив $40 млн для створення таємних бенчмарків, що перевіряють моделі ШІ на реальних професійних завданнях. Це важливо, бо популярні тести легко запам’ятовуються, а результати не відображають справжніх здатностей моделей.
Стаття розглядає інокуляційне промптування та адаптери як метод зменшення несумісності ШІ шляхом попереднього виставлення моделей шкідливим ознакам. Це пов’язано з формальним «невивченням» та компромісами між користю ознак та їх безпекою.
PhoneticXeus — це багатомовна модель розпізнавання мови, яка перетворює звук у МФА-телефони. Навчена на понад 70 мовах, має браузерний демо та код на Hugging Face.
kev-0.5b — це застаріла модель прийняття рішень (LoRA + голова на Qwen2.5-0.5B), яка повертає ймовірнісні розподіли для типизованих питань щодо стану документа. Вона набрала 0,561 балу на поза-доменних елементах.
Теренс Тао, лауреат Филдсовської премії, попереджає, що розвиток ШІ йде надто швидко без достатньої обережності. Він порівнює це з нелінійною системою, де малі зміни можуть призвести до непередбачуваних наслідків.
Стаття стверджує, що чат-базові LLM використовують фрази-підтвердження та ефект Форера, щоб імітувати «холодне читання» віщаків. Це створює ілюзію розуму без справжнього логічного процесу.
Автор виявляє захоплення розвиком ШІ та глибоку занепокоєння через потенційні небезпеки майбутніх моделей типу GPT-6-Astra. Це підкреслює двійкість прогресу та ризиків у розвитку штучного інтелекту.
NanoJev — це модель 0,6B параметрів на базі Qwen3, натренована для прийняття рішень у лабіринті, Снейку та ViZDoom. Вона показує кращі результати, ніж оригінал Jev та не натренований Qwen3.
ШІ-моделі навчаються на відкритому контенті без дотримання ліцензій Creative Commons. Це перетворює спільне знання на правовий ризик і загрожує цифровому темному віку.
Microsoft та Університет Іллінойсу створили StudentSim для симуляції окремих студентів з обмежених даних, надаючи AI-репетиторам швидке та дешеве зворотне зв’язок. У тестах на 60 студентів у шахах, англійській та математиці він перевершив GPT-5.4, а шаховий репетитор, навчений на StudentSim, отримав найвищі експертні оцінки.
embodied-jev — це браузерна інструментарія для тестування та порівняння ШІ-моделей у завданнях з роботами MuJoCo, таких як стопання та переміщення. Підтримує локальні та хмарні моделі для прямого порівняння ефективності.
Darwin-397B-ZTC — це модель MoE на 397B параметрів, побудована на Qwen 3.5 з FP8 точністю, що набрала 93,43% на тесті GPQA Diamond. Вона має функцію Zero-Token Confidence для самосудження перед відповіддю.
Автор стверджує, що формулювання розвитку ШІ як 'пауза' непродуктивно, бо нормалізує ідею створення небезпечних систем. Акцент на консенсус 'не будувати' ефективніший для запобігання existenційному ризику.
Автор стверджує, що спільнота з безпеки ШІ занадто сфокусована на запобіганню апокаліпсису, а не на підготовці до позитивного майбуття зі ШІ. Це важливо, бо без плану управління масовою безробіттям та забезпечення щастя суспільства переваги ШІ можуть бути непотрачені.
Стаття описує поширені помилки при організації груп з безпеки ШІ. Це включає вимоги про передзустріч читання, неправильне сортування учасників за рівнем знань ML, залежність від екранів, відсутність фільтрації, непідготовленість організаторів та відсутність близьких зв’язків між ними.
TTS-модель kan-bayashi_ljspeech_vits, навчена на датасеті LJSpeech з архітектурою VITS, доступна для встановлення через pip або команду espnet tts. Модель розміщена на Hugging Face під назвою espnet/kan-bayashi_ljspeech_vits.
Стаття стверджує, що хоча відкриті ваги моделей ШІ дозволяють деяку кастомізацію та локальний хостинг, справжній відкритий ШІ — з вагами, кодом і даними навчання — забезпечує повну прозорість, можливість модифікації та верифікації, як у моделі Ai2 Olmo.
Хавьер Гомес-Серрано з Браунського університету прочитав спеціальну лекцію для Harvard CMSA, де проаналізував роботу OpenAI. Він визнав технічну потужність ШІ, але зазначив, що це вирішує іншу задачу, а не ту, за якою Институт Клэя обіцяв мільйон доларів.
Автор стверджує, що не слід використовувати AI для написання важливого контенту, оскільки процес письма є невід’ємною частиною мислення. Тексти, згенеровані AI, часто є нечіткими та помилковими, а їх використання без розкриття може wprowadжати в оману.
Автор стверджує, що забезпечення стабільності цінностей ШІ у складному світі є критичним етапом вирівнювання. Це вимагає значних інвестицій у розвиток моделей таким чином, щоб вони самі це підтримували.
CommentBench вимірює, наскільки моделі ШІ можуть повторювати людські коментарі у обговореннях безпеки ШІ. Fable 5 показав найкращу відповідність — 8,3% — у різних умовах тестування.
ICLR 2027 отримав близько 50 000 рефератів — це більше, ніж у 2026 році. Рост submissions пов’язаний із ШІ-бумом, корпоративними стимулами та генерацією паперів за допомогою ШІ, що погіршує якість рецензування.
GINIGEN випустила Edge-4B-TELL — пристрійна модель Gemma-4 з лінійним вихідним шаром, який оцінює правильність відповідей за прихованими станами. Вона перевершує самооцінку впевненості на корейських питаннях про катастрофи, але потребує порогу 0.25, щоб перенаправляти 60,9% відповідей до джерела-запасного варіанту.
Білл Гейтс попереджає, що уряди по всьому світу сильно відстають від розвитку ШІ. Він зазначив ризики скорочення робочих місць, атаки за допомогою ШІ та залежність від віртуальних собесідників, а його фонд планує інвестувати не менше $1 млрд за два роки в освіту, охорону здоров’я та сільське господарство.
Стаття стверджує, що LLM добре справляються з математикою та кодінгом завдяки ясним навчальним даним, а не механізмам перевірності. Це пояснює, чому вони менш ефективні в галузях з шумісними джерелами.
Група математиків опублікувала аналіз, що спростовує заяву OpenAI про розв'язання задачі існування та гладкості Нав'є-Стокса. Вони стверджують, що рішення OpenAI базується на штучно викликаній сингулярності, а не на властивостях самої рідини.
OpenResearch представив локальний робочий простір, який перетворює кодинг-агенти типу Claude Code або Cursor у дослідників-агентів ШІ. Він дозволяє проводити огляд літератури, висувати та перевіряти гіпотези, запускати експерименти та зберігати артефакти з повною відтворюваністю.
OpenAI випустила додаток ChatGPT для Microsoft Word, який дозволяє генерувати тексти та відповідати на запитання прямо в редакторі. Доступно для всіх користувачів, а дані можуть використовуватися для навчання AI залежно від тарифу та налаштувань.
Ear — це на-пристрою модель розпізнавання мов, що підтримує 99 мов на iOS, Android та веб. Її створено на основі Whisper-tiny з вводом аудіо 30 секунд та затримкою 250 мс.
Стаття рекомендує будувати кар’єру в Data Science та ML, оскільки AI перетворює ринок праці. Запропоновано підписатися на @LLMScience для структурованого навчання від практикуючих інженерів.
Опубліковано нову модель BananaMind-2-Pro з 139 мільйонами параметрів та контекстним вікном 3 072 токени. Вона навчена на 100 мільярдах токенів і показує кращі результати, ніж GPT-2 та BananaMind-2-Medium, на тестах ARC та HellaSwag.
Автор пропонує двійкову рамку для надійного вирівнювання суперінтелекту (RoSA), поєднуючи зворотне ланцюгування від суперінтелекту та інваріантне обґрунтування. Це вирішує обмеження екстраполяції та прямого ланцюгування через проблеми стійкості та потенційні режими відказу.
Стаття пропонує аудит середовищ підкріплюваного навчання на виявлення неправильних сигналів нагороди як масштабний метод покращення відповідності AI. Це включає залучення галузевих експертів для виявлення помилок до того, як вони вплинуть на поведінку моделей.
Уникнення високої непрозорої серійної глибини в архітектурах ШІ допомагає зберегти нагляд, проте не гарантує його, оскільки моделі можуть все ще розсувати нечитабельно або стеганографічно, хоча низька глибина за замовчуванням робить це менш ймовірним.
Google DeepMind запустив новий інститут, щоб розширити дискусію про штучний загальний інтелект (AGI), залучивши перспективи як внутрішніх дослідників, так і глобальної спільноти. Це дозволить краще оцінювати ризики та можливості AGI у швидко змінючому середовищі, що важливо для стратегічного планування технологій та регулювання.
Автор стверджує, що зростання уваги до ризиків ШІ у 2023 і 2026 роках не призвело до реальних змін. Це через відсутність фінансування, неефективну політику та відток талантів до поверхневих досліджень через конкуренцію.
Друзі провели неформальні зум-дебати про соціальний вплив ШІ. Обговорювали доступність інтелекту, власність інфраструктури, швидкість переходу, персоналізацію ШІ та боротьбу за статус у світі надлишку.
Автор стверджує, що стабільність цінностей є критичною 'фінальною босскою' вирівнювання ШІ. Це вимагає великих інвестицій у розвиток моделей таким чином, щоб вони це підтримували.
Феллоу програми plzdontkillus заявляє, що fellows згенерували лише ~2 млн переглядів контенту з безпеки AI за жорстким визначенням, а не заявлені 21 млн. 13 з 55 fellows не публікували жодного матеріалу на цю тему.
OpenAI оголосила про доведення задачі тисячоліття серед спору з математиками. CEO Anthropic закликає сповільнити темп розвитку ШІ через ризики вимираючості.
Автор пропонує концептуальну модель побудови цифрового когнітивного організму за допомогою багатоагентних систем. Це спрямовано на створення систем з перевіреним самонаглядом для покращення автономії та адаптивності ШІ.
У опитуванні 2024 року вчені ШІ оцінили, що проблема тисячоліття буде вирішена ШІ навколо 2054 року. Це через стійкість законів масштабування та ранні ознаки RSI.
AlphaXiv представив оркестратор, який адаптує Claude Code, Open Code або Codex під R&D: читання наукових матеріалів, видвиження та перевірка гіпотез, запуск експериментів та створення артефактів. Це забезпечує повну відтворюваність завдяки git-native дереву експериментів з незмінними архівами комітів.