Анализ страницы https://thegenerality.com/agi/
Основное Готовность: 100%
Домен
thegenerality.com
Состояние доменного имени
?
Проверяем корректность доменного имени и наличие технических проблем на уровне домена.
Длина домена велика. Но если вы продвигаете запрос, входящий в название домена, то это хорошо.
Домен второго уровня идеален для продвижения.
Ответ сервера
200 Успешный ответ
HTTP-код ответа и цепочка редиректов
?
Код 200 — страница доступна. Коды 3xx — редиректы (цепочки замедляют загрузку и размывают ссылочный вес). Коды 4xx/5xx — ошибки, поисковик не сможет проиндексировать страницу.
Сервер настроен корректно.
Безопасность
Сайт безопасен
Использование HTTPS и SSL-сертификат
?
HTTPS — обязательный стандарт. Google и Яндекс отдают предпочтение защищённым сайтам. Отсутствие SSL или просроченный сертификат ведут к предупреждениям в браузере и снижению позиций.
На сайте работает защищенный протокол ssl и сайт открывается по https.
Ssl-сертификат действителен до 04.10.2026 22:45:22.
Включён HSTS (Strict-Transport-Security) — защита от подмены на http.
Поздравляем! Сайт не содержится в реестре РКН.
Кодировка
utf-8
Кодировка символов страницы
?
Стандарт — UTF-8. Неправильная кодировка вызывает нечитаемые символы и мешает поисковику корректно распознать текст страницы.
Указана кодировка на странице utf-8.
Язык
en
Атрибут lang в HTML-теге
?
Атрибут lang (<html lang="ru">) сообщает поисковикам и браузерам, на каком языке написана страница. Помогает при ранжировании в региональном поиске.
Язык документа указан явно: en.
Скорость загрузки
~0,59сек
Время отклика сервера (TTFB)
?
Time To First Byte — время до получения первого байта от сервера. Норма до 200 мс. Медленный отклик ухудшает пользовательский опыт и ранжирование: Яндекс и Google учитывают скорость страниц.
Скорость загрузки сайта 0,59сек оптимальна.
Объем документа
132Кб
Размер HTML-кода страницы
?
Слишком большой HTML замедляет парсинг браузером и сканирование поисковым роботом. Рекомендуется не более 200 Кб.
Объем html-документа 132Кб оптимален.
Структура html-документа корректна.
Ресурсы
Ресурсы: 5
Внешние ресурсы страницы (CSS, JS, изображения)
?
Количество и тип подключённых ресурсов влияют на скорость загрузки. Большое число запросов увеличивает время рендеринга страницы.
Кол-во файлов ресурсов 5 достаточно.
Показать полный список ресурсов
| Тип | Название | Значение |
|---|---|---|
| stylesheet | text/css | ./assets/css/main.css |
| stylesheet | text/css | ./assets/css/cards.min.css |
| js | ./assets/js/cards.min.js | |
| js | text/javascript | ./assets/js/main.min.js |
| js | https://ajax.googleapis.com/ajax/libs/jquery/3.6.0/jquery.min.js |
Серверные заголовки
Кол-во: 18
HTTP-заголовки ответа сервера
?
Заголовки сервера передают браузеру и поисковику служебную информацию: кеширование, безопасность (CSP, HSTS), сжатие (gzip). Правильная настройка ускоряет загрузку и повышает защищённость.
Найдены серверные заголовки 18шт. Подробнее про серверные заголовки.
Показать полный список серверных заголовков
| Ключ | Значение |
|---|---|
| Server | GitHub.com |
| Access-Control-Allow-Origin | * |
| Strict-Transport-Security | max-age=31556952 |
| ETag | "6a687f78-2102f" |
| Cache-Control | max-age=600 |
| x-proxy-cache | MISS |
| x-github-request-id | 2BF2:1D1C91:566DBB:5D93F2:6A8B6253 |
| x-github-edge-region | swedencentral |
| Accept-Ranges | bytes |
| Age | 0 |
| Date | Sun, 23 Aug 2026 21:12:51 GMT |
| Via | 1.1 varnish |
| X-Served-By | cache-bma-essb1270056-BMA |
| X-Cache | MISS |
| x-cache-hits | 0 |
| x-timer | S1787519572.646379,VS0,VE131 |
| Vary | Accept-Encoding |
| x-fastly-request-id | 672a63e52511fea6ab2849776e0cdd698d787839 |
CMS
Ghost
Система управления сайтом (движок)
?
CMS — это движок, на котором работает сайт (WordPress, 1C-Bitrix, Tilda и др.). Знание CMS помогает понять возможности SEO-оптимизации и подобрать подходящие инструменты. «Не определена» — вероятно, самописный сайт или нестандартная сборка.
Сайт работает на CMS Ghost.
Веб-сервер
GitHub.com
Программное обеспечение сервера
?
Веб-сервер — это ПО, которое отдаёт страницы посетителям (nginx, Apache, IIS, LiteSpeed и др.). Определяется по серверным заголовкам ответа (Server, X-Powered-By и т.п.). «Не определён» — сервер намеренно скрывает эти заголовки, это нормальная практика безопасности.
В заголовке Server указано: GitHub.com.
Мета-теги Готовность: 48%
Title
Advancing AI for Humanity
Заголовок страницы в браузере и поисковой выдаче
?
Title — главный SEO-заголовок страницы. Влияет на CTR в поиске и ранжирование. Оптимальная длина: 50–70 символов. Ключевые слова — ближе к началу.
Необходимо увеличить число символов в title (текущее значение: 25, оптимально: от 40 до 45)
Дублей словоформ в title не найдено.
Description
Описание страницы в поисковой выдаче (сниппет)
?
Meta Description — текст под заголовком в выдаче. Напрямую на позиции не влияет, но влияет на CTR. Оптимальная длина: 120–160 символов.
Установите мета-тег description!
Keywords
Список ключевых слов страницы (устаревший тег)
?
Meta Keywords не учитывается Яндексом и Google для ранжирования с 2009–2012 годов. Заполнение не обязательно, но не вредит. Конкурент может использовать содержимое для анализа.
Установите мета-тег keywords!
Канонический Url
Указывает поисковику основную версию страницы
?
Canonical (rel=canonical) предотвращает проблему дублей страниц. Должен точно совпадать с URL проверяемой страницы. Неправильный canonical может передать ссылочный вес на другую страницу.
Рекомендуем прописать канонический Url.
Robots
Ошибок нет
Директивы для поисковых роботов на уровне страницы
?
Meta Robots управляет индексацией конкретной страницы: index/noindex — индексировать ли, follow/nofollow — следовать ли по ссылкам. Noindex полностью исключает страницу из поиска.
Meta-тег robots не указан. Страница свободна для индексации.
Адаптивность
width=device-width, initial-scale=1, maximum-scale=1
Настройка масштабирования на мобильных устройствах
?
Тег viewport (<meta name="viewport">) сообщает браузеру, как масштабировать страницу на мобильных. Стандарт: width=device-width, initial-scale=1. Отсутствие — признак отсутствия мобильной версии.
Meta-тег viewport со значением-константой width=device-width задаёт ширину страницы в соответствии с размером экрана.
Meta-тег viewport со значением initial-scale=1.0 определяет масштаб 1:1, т.е. «не масштабировать».
Meta-тег viewport со значением maximum-scale определяет максимальный масштаб области просмотра.
Разметка OpenGraph
Кол-во: 2
Мета-теги для красивых превью в соцсетях
?
OpenGraph (og:title, og:description, og:image) управляет тем, как страница выглядит при репосте в социальных сетях и мессенджерах. Отсутствие OG-тегов — невзрачный превью при шеринге.
Разметка OpenGraph задана. Страница оптимизирована под социальные сети.
Показать полный список og мета-тегов
| Тип | Значение |
|---|---|
| og:image:width | 3200 |
| og:image:height | 1800 |
Все мета-теги
Кол-во: 5
Полный список мета-тегов страницы
?
Таблица всех meta-тегов, включая нестандартные. Позволяет найти опечатки, дубли и лишние теги.
Найдены мета-теги 5шт. Мета-теги не видимы для человека и предназначены для обмена информацией между веб-страницей и поисковыми системами, браузерами и другими веб-службами. С ними роботы 🤖 и устройства ведут себя более ожидаемо.
Показать полный список мета-тегов
| Тип | Название | Значение |
|---|---|---|
| name | viewport | width=device-width, initial-scale=1, maximum-scale=1 |
| name | referrer | no-referrer-when-downgrade |
| name | generator | Ghost 5.12 |
| property | og:image:width | 3200 |
| property | og:image:height | 1800 |
Оптимизация Готовность: 20%
Структура
Ошибок нет
Семантические HTML-элементы страницы
?
Проверяет наличие основных структурных элементов: nav, header, footer, main. Корректная семантическая структура помогает поисковику понять архитектуру страницы.
Структура документа корректна (теги <html> и <body> присутствуют в одном экземпляре).
Контент
Есть ошибки
Объём и качество текстового содержимого
?
Анализирует объём полезного текста на странице. Слишком мало — страница может считаться малополезной. Слишком много — ухудшается читаемость и восприятие.
Абзацев с текстом 1 слишком мало. Добавьте больше абзацев с текстом (тег <p>)!
Среднее число слов в абзаце 1 слишком мало. Сделайте контент более читаемым!
Слова из title 4 встречаются в тексте достаточно.
Кол-во знаков контента 6128 на странице оптимально.
Кол-во слов 886 на странице оптимально.
Заголовки
Есть ошибки
Иерархия заголовков H1–H6
?
H1 должен быть один и содержать ключевой запрос. H2–H6 описывают подразделы. Пропуск уровней (H1 → H3) и несколько H1 — типичные ошибки, снижающие понятность страницы для поисковика.
Не обнаружено заголовков на странице. Добавьте заголовки (<h1>, <h2> или <h3>)
Тошнота
4,80
Насколько одно слово доминирует в тексте
?
Классическая тошнота = √(частота самого повторяющегося слова). Норма до 7–8: текст воспринимается естественно. Выше — поисковик может счесть страницу переспамленной.
Тошнота превышает норму 3. Измените текст страницы!
Академич. тошнота
1,13%
Насколько текст перенасыщен ключевыми словами
?
Академическая тошнота = (частота слова / общее количество слов) × 100%. Показывает долю конкретного слова в тексте. Норма 5–15%.
Академическая тошнота не дотягивает до нормы 5-15%. Измените текст страницы!
Семантическое ядро
20
Наиболее часто встречающиеся слова на странице
?
Топ слов по частоте использования. Показывает, какие слова доминируют в тексте с точки зрения поисковика.
Контент страницы содержит осмысленный текст и слова.
Показать список слов
| Слово | Кол-во | Частота |
|---|---|---|
| language | 23 | 2,60% |
| models | 22 | 2,48% |
| introducing | 17 | 1,92% |
| learning | 9 | 1,02% |
| scaling | 8 | 0,90% |
| bitnet | 7 | 0,79% |
| transformers | 7 | 0,79% |
| distillation | 6 | 0,68% |
| multimodal | 6 | 0,68% |
| experiential | 5 | 0,56% |
| on-policy | 5 | 0,56% |
| october | 5 | 0,56% |
| pre-training | 5 | 0,56% |
| context | 4 | 0,45% |
| january | 4 | 0,45% |
| transformer | 4 | 0,45% |
| advancing | 3 | 0,34% |
| frontier | 3 | 0,34% |
| embeddings | 3 | 0,34% |
| efficient | 3 | 0,34% |
Индексация Готовность: 0%
Индексирование
Ошибок нет
Разрешено ли индексирование страницы
?
Проверяет, не закрыта ли страница от индексации через robots.txt, meta robots или X-Robots-Tag. Страница, закрытая от индексации, не появится в поисковой выдаче.
Анкоров на странице 86 оптимально. Поисковые роботы обязательно проиндексируют сайт.
Robots.txt
Не найден
Файл управления сканированием сайта роботами
?
Robots.txt указывает поисковым роботам, какие страницы сканировать, а какие — нет. Ошибки в файле могут случайно закрыть важные разделы от индексации.
Файл robots.txt не найден (ошибка 404). Крайне рекомендуем добавить файл robots.txt, это правило хорошего тона для поисковых роботов.
Sitemap
Кол-во: 0
XML-карта сайта для поисковиков
?
Sitemap.xml помогает поисковику быстрее находить и индексировать страницы. Особенно важен для крупных сайтов и новых страниц, на которые ещё нет входящих ссылок.
Robots.txt не содержит ссылку на карту сайта. Рекомендуется добавить карту сайта и указать ссылку на нее в robots.txt.
Внутренние ссылки
Кол-во: 6
Ссылки на другие страницы своего сайта
?
Внутренние ссылки распределяют ссылочный вес между страницами и помогают поисковику обходить сайт. Пустые анкоры и ссылки на запрещённые robots.txt страницы — типичные ошибки.
Внутренних ссылок на странице 6 оптимально.
Показать внутренние ссылки
| Url | Анкор | Состояние |
|---|---|---|
| /./index.html |
<font size="5">Advancing AI for humanity</font>
|
|
| /./about.html |
⇛
|
|
| /research.html |
Research
|
|
| /blog.html |
Blog
|
|
| /about.html |
About
|
|
| / |
© 2022
|
|
Внешние ссылки
Кол-во: 80
Ссылки на сторонние сайты
?
Исходящие внешние ссылки передают часть ссылочного веса на чужие сайты. Ссылки на авторитетные ресурсы безопасны; ссылки на мусорные сайты могут навредить репутации страницы.
Внешних ссылок на странице 80 слишком много. Спрячьте лишние ссылки в тег noindex или атрибут rel='nofollow'!
Показать внешние ссылки
| Url | Анкор |
|---|---|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 81%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 9%;" alt="YOCO-S" src="./assets/img/el3.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing LLM-as-a-Coach: Experiential Learning for Non-Verifiable Tasks</h4>
<time datetime="2026-07-22" class="color-fg-50">July 22, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 81%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 9%;" alt="YOCO-S" src="./assets/img/yoco_s.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing YOCO-S, You Only Index Once: Cross-Layer Sparse Attention with Shared Routing</h4>
<time datetime="2026-06-05" class="color-fg-50">June 5, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 78%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 7%;" alt="MT-OPD" src="./assets/img/vibevoice-asr-bitnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing VibeVoice-ASR-BitNet, real-time ASR on CPUs</h4>
<time datetime="2026-07-24" class="color-fg-50">July 24, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 58%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 10%;" alt="MT-OPD" src="./assets/img/mtopd.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Multi-Turn On-Policy Distillation with Prefix Replay</h4>
<time datetime="2026-07-06" class="color-fg-50">July 6, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<a href="https://huggingface.co/microsoft/bitnet-embedding-0.6b" target="BLANK">microsoft/bitnet-embedding-0.6b</a> | <a href="https://huggingface.co/microsoft/bitnet-embedding-270m" target="BLANK">microsoft/bitnet-embedding-270m</a>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing BitEmbed, BitNet Text Embeddings on CPUs </h4>
<time datetime="2026-07-16" class="color-fg-50">July 16, 2026</time>
</div>
|
| huggingface.co |
microsoft/bitnet-embedding-0.6b
|
| huggingface.co |
microsoft/bitnet-embedding-270m
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 41%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 20%;" alt="YOCO-S" src="./assets/img/bitemd.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BitNet Text Embeddings</h4>
<time datetime="2026-06-25" class="color-fg-50">June 25, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 55%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:15%;" alt="Online Experiential Learning" src="./assets/img/oel2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Experiential Learning – Part II: Online Experiential Learning for Language Models</h4>
<time datetime="2026-03-18" class="color-fg-50">March 18, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 55%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:15%;" alt="VibeVoice" src="./assets/img/opcd.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Experiential Learning – Part I: On-Policy Context Distillation for Experiential Learning</h4>
<time datetime="2026-02-13" class="color-fg-50">Febuary 13, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 110%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 3%;left: 7.5%;" alt="VibeVoice" src="./assets/img/yoco2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing YOCO-U, Universal YOCO for Efficient Depth Scaling</h4>
<time datetime="2026-04-02" class="color-fg-50">April 2, 2026</time>
</div>
|
| github.com |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 67%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="VibeVoice" src="./assets/img/vibevoice-asr.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing VibeVoice-ASR: ASR in the Era of LLM</h4>
<time datetime="2026-01-21" class="color-fg-50">January 21, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 74%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:8%;" alt="VibeVoice" src="./assets/img/sparse-bitnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing Sparse-BitNet: Semi-Structured Sparsity for 1.58-bit LLMs</h4>
<time datetime="2026-03-06" class="color-fg-50">March 6, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 44%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:13%;" alt="VibeVoice" src="./assets/img/slidesparsity.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing SlideSparse: Fast and Flexible (2N-2):2N Structured Sparsity</h4>
<time datetime="2026-03-06" class="color-fg-50">March 6, 2026</time>
</div>
|
| huggingface.co |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 74%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:9%;" alt="VibeVoice" src="./assets/img/diffv2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing Differential Transformer V2 - Faster, Better and More Stable</h4>
<time datetime="2026-01-20" class="color-fg-50">January 20, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 70%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:9%;" alt="VibeVoice" src="./assets/img/llminsandbox.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">LLM-in-Sandbox Elicits General Agentic Intelligence</h4>
<time datetime="2026-01-23" class="color-fg-50">January 23, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 63%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:9%;" alt="VibeVoice" src="./assets/img/multiplexthinking.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Multiplex Thinking: Reasoning via Token-wise Branch-and-Merge</h4>
<time datetime="2026-01-13" class="color-fg-50">January 13, 2026</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:14%;" alt="VibeVoice" src="./assets/img/gad.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing Generative Adversarial Distillation: Black-Box On-Policy Distillation of Large Language Models</h4>
<time datetime="2025-11-13" class="color-fg-50">November 13, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 72%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:8%;" alt="VibeVoice" src="./assets/img/asyncthink.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Era of Agentic Organization: Learning to Organize with Language Models</h4>
<time datetime="2025-10-31" class="color-fg-50">October 31, 2025</time>
</div>
|
| github.com |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="VibeVoice" src="./assets/img/vibevoice-realtime.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing VibeVoice-Realtime: Realtime, Streaming, Long-form Text-to-Speech</h4>
<time datetime="2025-12-04" class="color-fg-50">December 04, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="VibeVoice" src="./assets/img/vibevoice.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing VibeVoice: Advancing the Frontier of Voice AI</h4>
<time datetime="2025-08-26" class="color-fg-50">August 26, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:9.5%;" alt="RPT" src="./assets/img/rpt.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing RPT: Reinforcement Pre-Training</h4>
<time datetime="2025-06-10" class="color-fg-50">June 10, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:11%;" alt="TPT" src="./assets/img/quest.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">QueST: Incentivizing LLMs to Generate Difficult Problems</h4>
<time datetime="2025-10-20" class="color-fg-50">October 20, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 59%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="TPT" src="./assets/img/bitdistill.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing BitDistill: Finetuning Any Full-precision LLMs into BitNet (1.58-bit) for Specific Tasks via Distillation</h4>
<time datetime="2025-10-15" class="color-fg-50">October 15, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 48%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="TPT" src="./assets/img/docrwm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing DocReward: A Document Reward Model</h4>
<time datetime="2025-10-13" class="color-fg-50">October 13, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 63%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:10%;" alt="TPT" src="./assets/img/tpt.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing TPT: Thinking Augmented Pre-Training</h4>
<time datetime="2025-09-24" class="color-fg-50">September 24, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 40%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:15%;" alt="GMPO" src="./assets/img/gmpo.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Mean Matters in RL for LLMs: Geometric-Mean Policy Optimization</h4>
<time datetime="2025-07-29" class="color-fg-50">July 29, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 48%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:9%;" alt="ReSa" src="./assets/img/resa.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Rectified Sparse Attention</h4>
<time datetime="2025-06-05" class="color-fg-50">June 5, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 30% !important;">
<!--figure
class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy"
style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:6%;"
alt="BitNet" src="./assets/img/rrm.png">
</figure-->
On-Policy RL with Optimal Reward Baseline
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Advancing the Foundation of RL in LLMs</h4>
<time datetime="2025-05-30" class="color-fg-50">May 30, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:6.5%;" alt="RRM" src="./assets/img/rrm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Frontier of Reward Models</h4>
<time datetime="2025-05-21" class="color-fg-50">May 21, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 40% !important;">
<!--figure
class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy"
style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top:6%;"
alt="BitNet" src="./assets/img/rrm.png">
</figure-->
Think Only When You Need with Large Hybrid-Reasoning Models
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Adaptive Thinking Models</h4>
<time datetime="2025-05-21" class="color-fg-50">May 21, 2025</time>
</div>
|
| huggingface.co |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 70%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="BitNet" src="./assets/img/bitnet-2b-4t.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Introducing BitNet b1.58 2B4T - Scaling Native 1-bit LLMs</h4>
<time datetime="2025-04-15" class="color-fg-50">Apr 15, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 10%;" alt="BitNet" src="./assets/img/bitnet-v2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BitNet v2: Native 4-bit Activations for 1-bit LLMs</h4>
<time datetime="2025-04-17" class="color-fg-50">Apr 17, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="BitNet" src="./assets/img/latentlm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">LatentLM: A Grand Unification of Multimodality</h4>
<time datetime="2024-12-12" class="color-fg-50">Dec 12, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 55%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 7.5%;" alt="BitNet" src="./assets/img/diff.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Differential Transformer</h4>
<time datetime="2024-10-07" class="color-fg-50">Oct 7, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 95%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 4%;" alt="BitNet" src="./assets/img/bitnet_b158.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits</h4>
<time datetime="2024-02-28" class="color-fg-50">Feb 28, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; height: auto; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 75%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 5.5%;left: 19.5%;" alt="YOCO" src="./assets/img/YOCO.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">YOCO: Decoder-Decoder Architectures for Large Language Models<!-- <br>// Gated RetNet (RetNet-3)--></h4>
<time datetime="2024-05-08" class="color-fg-50">May 9, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 75% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 30%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="BitNet" src="./assets/img/gdsl.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Scaling Laws of Synthetic Data for Language Models</h4>
<time datetime="2025-03-25" class="color-fg-50">Mar 25, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="BitNet" src="./assets/img/bitnet-a4-8.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BitNet a4.8: 4-bit Activations for 1-bit LLMs</h4>
<time datetime="2024-11-08" class="color-fg-50">Nov 8, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 61%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 5%;left:0%" alt="MoE" src="./assets/img/mvot.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Imagine while Reasoning in Space: Multimodal Visualization-of-Thought</h4>
<time datetime="2025-01-13" class="color-fg-50">Jan 13, 2025</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 55%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 4%;left:0%" alt="MoE" src="./assets/img/byocl.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Bootstrap Your Own Context Length</h4>
<time datetime="2024-12-25" class="color-fg-50">Dec 25, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; ">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 81%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 4%;left:4%" alt="MoE" src="./assets/img/mhmoe.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">MH-MoE (v2): Multi-Head Mixture-of-Experts</h4>
<time datetime="2024-11-26" class="color-fg-50">Nov 26, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 56% !important; height: auto; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 4%;left: 0%;" alt="Fully Sparsely-Activated LLMs" src="./assets/img/bitnet-cpp.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">1-bit AI Infra / bitnet.cpp: Running LLMs on CPUs</h4>
<time datetime="2024-10-17" class="color-fg-50">Oct 17, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 56% !important; height: auto; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 75%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 2%;left: 4.5%;" alt="Fully Sparsely-Activated LLMs" src="./assets/img/qsparse.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Q-Sparse / Block Q-Sparse: Fully Sparsely-Activated LLMs</h4>
<time datetime="2024-07-15" class="color-fg-50">Jul 15, 2024</time>
</div>
|
| github.com |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 75%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" alt="BitNet" src="./assets/img/bitnet_s_shape.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Era of 1-bit LLMs: Training Tips, Code and FAQ</h4>
<time datetime="2024-03-20" class="color-fg-50">Mar 20, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 11%" alt="MoE" src="./assets/img/melle.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">MELLE: Autoregressive Speech Synthesis without Vector Quantization</h4>
<time datetime="2024-07-11" class="color-fg-50">Jul 11, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 50% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%" alt="MoE" src="./assets/img/valle2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">VALL-E 2: Human Parity Zero-Shot Text to Speech Synthesis</h4>
<time datetime="2024-06-08" class="color-fg-50">Jun 8, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 11%;" alt="Learning Law" src="./assets/img/learning_law.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Learning Law: Towards Optimal Learning of Language Models</h4>
<time datetime="2024-02-28" class="color-fg-50">Feb 28, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" src="./assets/img/vot.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">The Mind's Eye of (M)LLMs: Visualization-of-Thought Elicits Spatial Reasoning in Large Language Models</h4>
<time datetime="2024-04-04" class="color-fg-50">Apr 4, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 9%;" src="./assets/img/glan.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Synthetic Data (Almost) from Scratch: Generalized Instruction Tuning for Language Models</h4>
<time datetime="2024-02-20" class="color-fg-50">Feb 20, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<!--figure
class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy"
style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;"
alt="BitNet" src="./assets/img/mE5.png">
</figure-->
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Multilingual E5 Text Embeddings</h4>
<time datetime="2024-02-08" class="color-fg-50">Feb 8, 2024</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 65%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" src="./assets/img/bitnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BitNet: 1-bit Transformers and LLMs</h4>
<time datetime="2023-10-18" class="color-fg-50">Oct 18, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 13%;" alt="RetNet" src="./assets/img/retnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Retentive Network: Revolutionizing Transformers for Large Language Models</h4>
<time datetime="2023-07-18" class="color-fg-50">Jul 18, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" alt="LongViT" src="./assets/img/longvit.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">LongViT (LongNet for Vision): When an Image is Worth 1,024 × 1,024 Words</h4>
<time datetime="2023-12-07" class="color-fg-50">Dec 7, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="Kosmos" src="./assets/img/kosmos-g.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Kosmos-G: Generating Images in Context with Multimodal Large Language Models</h4>
<time datetime="2023-10-04" class="color-fg-50">Oct 4, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 70%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 5%;" alt="Kosmos 2.5" src="./assets/img/kosmos-25.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Kosmos-2.5: A Multimodal Literate Model</h4>
<time datetime="2023-09-20" class="color-fg-50">Sep 20, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 18%;" alt="LLM4Science" src="./assets/img/llm4s.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Large Language Model for Science: A Study on P vs. NP</h4>
<time datetime="2023-09-13" class="color-fg-50">Sep 13, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 7%;" alt="LongNet" src="./assets/img/longnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">LongNet: Scaling Transformers to 1,000,000,000 Tokens</h4>
<time datetime="2023-07-06" class="color-fg-50">Jul 6, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 7%;" alt="KOSMOS-2" src="./assets/img/kosmos2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Kosmos-2: Grounding Multimodal Large Language Models (MLLMs) to the World</h4>
<time datetime="2023-06-26" class="color-fg-50">Jun 26, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="KOSMOS-1" src="./assets/img/kosmos1.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Kosmos-1: A Multimodal Large Language Model (MLLM)</h4>
<time datetime="2022-08-30" class="color-fg-50">Feb 28, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 11%;" alt="VALL-E" src="./assets/img/valle-watermark.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">WavMark: Watermarking for Audio Generation</h4>
<time datetime="2023-08-24" class="color-fg-50">Aug 24, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" alt="VALL-E" src="./assets/img/valle.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">VALL-E (X): Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers</h4>
<time datetime="2022-08-30" class="color-fg-50">Jan 6, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 14%;" alt="LLMA" src="./assets/img/PoSE.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">PoSE: Efficient Context Window Extension of LLMs via Positional Skip-wise Training</h4>
<time datetime="2022-09-19" class="color-fg-50">Sep 19, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 60%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 4%;" alt="LLMA" src="./assets/img/adallm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">AdaLLM: Adapting Large Language Models via Reading Comprehension</h4>
<time datetime="2022-09-18" class="color-fg-50">Sep 18, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 20%;" alt="MiniLLM" src="./assets/img/minillm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">MiniLLM: On-Policy Distillation of Large Language Models</h4>
<time datetime="2023-06-14" class="color-fg-50">Jun 14, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 1%;" alt="LongMem" src="./assets/img/LongMem.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Large Language Models with Long-Term Memory</h4>
<time datetime="2023-06-12" class="color-fg-50">Jun 12, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 50%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" alt="LLMA" src="./assets/img/llma.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">LLM Accelerator: Lossless Acceleration of Large Language Models</h4>
<time datetime="2022-08-30" class="color-fg-50">Apr 11, 2023</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 43% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 45%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 6%;" alt="XPos" src="./assets/img/sope.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">A Length-Extrapolatable Transformer</h4>
<time datetime="2022-08-30" class="color-fg-50">Dec 20, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 33% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 105%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 3%;" alt="ICL" src="./assets/img/meta_opt.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent as Meta Optimizers</h4>
<time datetime="2022-08-30" class="color-fg-50">Dec 20, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 46% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 55%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 2.5%;" alt="Promptist" src="./assets/img/promptist.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Promptist: Optimizing Prompts for Text-to-Image Generation</h4>
<time datetime="2022-08-30" class="color-fg-50">Dec 19, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 51% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 45%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 5%;" alt="Structured Prompting" src="./assets/img/structured_prompt.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Structured Prompting: Scaling In-Context Learning to 1,000 Examples </h4>
<time datetime="2022-08-30" class="color-fg-50">Dec 12, 2022</time>
</div>
|
| github.com |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 51% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 45%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 11%;" alt="TorchScale" src="./assets/img/torchscale.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">TorchScale: Transformers at (Any) Scale </h4>
<time datetime="2022-08-30" class="color-fg-50">Nov 24, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:68%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="" src="./assets/img/magnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Magneto: A Foundation Transformer</h4>
<time datetime="2022-10-13" class="color-fg-50">October 13, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 70% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom: 45%;">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 12%;" alt="BEiT-3" src="./assets/img/beit3.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BEiT-3: A General-Purpose
Multimodal Foundation Model </h4>
<time datetime="2022-08-30" class="color-fg-50">Aug 30, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:65%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 1%;" src="./assets/img/metalm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">Language Models are General-Purpose Interfaces</h4>
<time datetime="2022-08-30" class="color-fg-50">June 13, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:65%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 20%;" src="./assets/img/deepnet.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">DeepNet: Scaling Transformers to
1,000 Layers</h4>
<time datetime="2022-08-30" class="color-fg-50">Mar 1, 2022</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:65%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 8%;" src="./assets/img/beit.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">BEiT: BERT Pre-Training of Image Transformers</h4>
<time datetime="2022-08-30" class="color-fg-50">June 15, 2021</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="width: 60% !important; max-width: 70rem;">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:52%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 7%;" src="./assets/img/minilm2.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">MiniLM: Multi-Head Self-Attention Relation Distillation for Compressing Pretrained Transformers</h4>
<time datetime="2020-02-25" class="color-fg-50">Feb 25, 2021</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:78%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 3%;" src="./assets/img/xlme.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">XLM-E: Efficient Multilingual Language Model Pre-training</h4>
<time datetime="2022-08-30" class="color-fg-50">June 30, 2021</time>
</div>
|
| arxiv.org |
<div class="fade-child-xxheavy transition-opacity mb-0.5">
<div class="bg-fg-2 overflow-hidden">
<div class="bg-cover js-lazy py-1.5 js-lazy-loaded" style="background-image: url(./assets/img/);">
<div class="mx-auto w-50" style="max-width:30rem">
<figure class="release-cover mb-0 position-relative bg-fg-2 rounded-small overflow-hidden shadowed-xheavy" style="padding-bottom:75%">
<img class="position-absolute trbl-0 js-lazy js-lazy-loaded" style="top: 3%;" src="./assets/img/unilm.png">
</figure>
</div>
</div>
</div>
</div>
<div class="max-width-xnarrow medium-xsmall-copy">
<h4 class="balance-text fade-child medium-xsmall-copy" style="">UniLM: Unified Language Model Pre-training</h4>
<time datetime="2022-08-30" class="color-fg-50">May 8, 2019</time>
</div>
|
Конкуренты Готовность: 0%
Конкуренты в Яндексе
Кол-во: 0
Топ сайтов-конкурентов в Яндексе
?
Сайты, чаще всего появляющиеся в ТОПе Яндекса по запросам из семантического ядра этой страницы.
Мы не нашли у вас конкурентов в Яндексе. Сайт или очень молодой или плохо продвигается.
Конкурентов в ТОП-10 Яндекса не нашлось.
Конкуренты в Google
Кол-во: 0
Топ сайтов-конкурентов в Google
?
Сайты, чаще всего появляющиеся в ТОПе Google по запросам из семантического ядра этой страницы.
Конкуренты в Google тоже не найдены. Займитесь продвижением сайта!
Конкурентов в ТОП-10 Google не нашлось.
ЗоЗПП: права потребителей Готовность: 100%
Нарушения
Не выявлены
Признаков дистанционной продажи товаров (интернет-магазина) не обнаружено — требования ЗоЗПП о раскрытии информации продавца к сайту не применяются. Нарушений нет.
ФЗ-149: рекомендательные технологии Готовность: 100%
Нарушения
Не выявлены
Рекомендательные блоки («с этим покупают», «похожие товары» и т.п.) на сайте не обнаружены — требования ст. 10.7 ФЗ-149 к сайту не применяются. Нарушений нет.
ФЗ-38: реклама Готовность: 100%
Нарушения
Не выявлены
Рекламных тематик с обязательными оговорками (медицина, БАД, кредиты и займы, новостройки) на сайте не обнаружено. Нарушений нет.
ФЗ-436: защита детей Готовность: 100%
Нарушения
Не выявлены
Признаков информационной продукции (новости, видео, книги, игры, курсы) не обнаружено — обязательная возрастная маркировка по ФЗ-436 сайту не требуется. Нарушений нет.
Вердикт
Страница https://thegenerality.com/agi/ готова к продвижению на 42%. Чтобы еще улучшить страницу и попасть на первые места поисковой выдачи необходимо:
Исправьте ошибки в мета-тегах.
Исправьте ошибки оптимизации.
Исправьте ошибки индексации.
Поделитесь с друзьями: