Дата публикации:
Что такое веб‑архив?
Веб‑архив (англ. Web Archive) – это сервис, который автоматически сохраняет копии публичных веб‑страниц в определённые моменты времени. Благодаря этим копиям любой пользователь может увидеть, как выглядел сайт в прошлом, а владельцы сайтов – восстановить утерянный контент.
Крупнейшие публичные архивы
- Wayback Machine (Internet Archive)
web.archive.org
Адрес: 300 Funston Ave, San Franci, CA 94118, USA
Телефон: +1 ( ) ‑
Основатель: Брюстер Кейл (B. ) - Archive.today (aka archive.ph)
archive.today
Серверы находятся в нескольких дата‑центрах (точные адреса скрыты).
Поддержка: support@*.org - Time Travel (oldweb.today)
oldweb.today
Предлагает «ретро‑браузер», имитирующий старые версии браузеров.
Контакт: info@*.net - Memento Time Travel – протокол, позволяющий искать версии страниц в разных архивах через единый API.
Документация: GitHub
Как пользоваться архивом: базовый сценарий
- Поиск нужной версии – введите URL в поле поиска на Wayback Machine. Появится календарь со всеми датами, когда страница была заархивирована.
- Просмотр – кликните по дате, чтобы открыть «замороженную» копию. Навигация внутри страницы работает так же, как в оригинале (с сохранёнными изображениями, стилями и скриптами, если они были захвачены).
- Скачивание – в правом верхнем углу часто есть кнопка Save Page Now (сохранить сейчас) или Download (скачать). Скачивается
.warc‑файл – стандартный формат веб‑архивов. - Экспорт в PDF – большинство сервисов позволяют «распечатать» страницу в PDF через браузерный диалог печати.
Как самостоятельно добавить страницу в архив
Если вам важно, чтобы определённый контент был сохранён «навсегда», используйте один из следующих методов:
- Save Page Now (Wayback Machine) – зайдите на https://web.archive.org/save, вставьте URL и нажмите Save. Сервис сделает мгновенный снимок.
- Archive.today – аналогичная форма
https://archive.today/сохраняет страницу и выдаёт постоянную ссылку. - Скрипты и API – для массового архивирования можно использовать Wayback Machine API или Memento CDX API. Пример запроса:
GET https://web.archive.org/web/timemap/json/https://example.com/ Ответ содержит список всех сохранённых дат, которые можно дальше обработать в скрипте.
Сохранение собственного сайта: чек‑лист
- Создайте robots.txt, разрешающий сканирование (или исключите только лишние разделы).
- Настройте автоматический push в Wayback Machine через GitHub Action или Archive.org Publish API.
- Проверьте состояние архива через
https://web.archive.org/__wb/calendar?url=yourdomain.com. - Сохраните метаданные (дата публикации, авторские права) в отдельном файле
README.mdвнутри архива.
Юридические нюансы
Сохранение публичных страниц в веб‑архиве обычно считается законным, если контент не защищён авторским правом или не имеет ограничений по robots.txt. Однако следует помнить:
- Некоторые сайты используют
X-Robots-Tag: noarchive– в этом случае архивы обязаны не сохранять страницу. - Для коммерческих материалов (например, платных статей) требуется согласие владельца.
- В России действует закон «Об информации, информационных технологиях и защите информации», который регулирует хранение и распространение электронных материалов.
Практическое применение
SEO‑анализ и конкурентный мониторинг
С помощью Wayback Machine можно отследить, как менялись мета‑теги, структура URL и контент у конкурентов. Это помогает выявить:
- Тренды в использовании ключевых слов;
- Влияние редизайна на позиции в поиске;
- Утраченную «ценную» страницу, которую можно восстановить в своём проекте.
OSINT‑расследования
Для расследований в сфере кибербезопасности часто используют архивы, чтобы доказать наличие (или отсутствие) определённого контента в момент инцидента. Инструменты:
- Wayback Machine + CDX API – поиск по хешу страницы.
- Archive.today – сохраняет «чистый» скриншот без скриптов, удобен для юридических доказательств.
- OldWeb.today – позволяет увидеть, как выглядел сайт в старом браузере, что иногда раскрывает скрытые элементы.
Восстановление утерянного контента
Если ваш сайт был взломан или случайно удалён, вы можете:
- Найти последнюю сохранённую версию в Wayback Machine.
- Скачать
.warc‑файл.
Технические детали формата WARC
WARC (Web ARChive) – открытый стандарт, используемый Internet Archive. Внутри файла хранятся:
- HTTP‑запрос и ответ;
- Метаданные (дата, URL, тип контента).
Для работы с WARC удобно использовать библиотеки:
- Python:
warcio,pywb; - Node.js:
node-warc; - CLI‑утилиты:
wget --warc-file=site.
Сравнительная таблица популярных сервисов
| Сервис | Дата основания | Формат экспорта | API | Особенности |
|---|---|---|---|---|
| Wayback Machine | 1996 | .warc, .json, .pdf | Да (CDX, Save API) | Самый большой архив, поддержка массового сохранения. |
| Archive.today | 2012 | Ограниченный (POST‑запрос) | Сохраняет «чистый» скриншот без динамики. | |
| OldWeb.today | 2018 | — | Нет публичного API | Эмуляция старых браузеров (Netscape, IE 5). |
| Memento Aggregator | 2013 | — | Да (TimeGate, TimeMap) | Объединяет результаты из разных архивов. |
Часто задаваемые вопросы (FAQ)
Q1: Можно ли удалить свою страницу из Wayback Machine?
Да. Если вы владелец домена, подайте запрос через форму Contact Us с указанием URL и причины (например, нарушение авторских прав). После проверки страница будет удалена из публичного доступа.
Q2: Почему некоторые даты в календаре пустые?
Сканер может не успеть захватить страницу из‑за:
- Технических сбоев робота;
- Блокировки
robots.txt; - Слишком большого объёма контента (например, динамические SPA).
Q3: Как сохранить динамический контент (SPA, React‑приложения)?
- Сделать «пререндеринг» (SSR) перед отправкой в архив.
- Использовать сервис archive.is, который сохраняет полностью отрендеренную страницу.
Q4: Нужно ли платить за хранение?
Большинство публичных архивов бесплатны для конечных пользователей. Платные тарифы существуют только у коммерческих провайдеров (например, PageFreezer) для корпоративного архивирования.
Веб‑архивы – незаменимый инструмент для любого веб‑специалиста: от SEO‑аналитика до юриста‑исследователя. Они позволяют:
- Отслеживать эволюцию контента;
- Восстанавливать утерянные данные;
- Документировать изменения для юридических целей;
- Сохранять «цифровое наследие» для будущих поколений.
Регулярно используйте Wayback Machine и Archive.today, а при необходимости автоматизируйте процесс через API. И помните: лучшее время сохранить страницу – сейчас.
Автор статьи: Иван Петров (контакт: ivan.*@example.com, телефон: +7 ( ) ‑‑).
Если у вас возникли вопросы – оставляйте комментарий или пишите на указанный e‑mail.