Структурированная база данных о контроллерах LED-дисплеев Onbon, собранная с официального сайта onbon.ru.
Компания: Onbon — тот же вендор, что в onbon-parser и onbonbx-parser. Этот репозиторий — ETL-хранилище и обработка собранных данных.
Это ETL-пайплайн (Extract, Transform, Load) для сбора и обработки технической информации о контроллерах Onbon. Данные хранятся в формате JSON и готовы к использованию в веб-приложениях, каталогах или для аналитики.
- Централизация — объединение разрозненных JSON-файлов в единую базу данных
- Стандартизация — очистка данных от технических ошибок (пробелы в ключах, вложенность)
- Автоматизация — скрипты для создания структуры папок и расширения карточек товаров
- Доступность — данные в удобном машиночитаемом формате
onbon-data-repo/
├── 📁 по категориям/ # Группировка JSON по категориям
│ ├── merged_fc.json
│ ├── merged_md.json
│ └── merged_vp.json
├── 📄 add_fields.py # Добавление полей в карточки
├── 📄 controllers_list.txt # Список всех контроллеров
├── 📄 create_folders.py # Создание структуры папок
├── 📄 get_list.py # Извлечение списка контроллеров
├── 📄 merge.py # Объединение JSON-файлов
├── 📄 merged.json # Объединённый файл
├── 📄 merged_updated.json # Финальный файл с добавленными полями
├── 📄 requirements.txt # Зависимости
└── 📄 README.md # Документация
- Python 3.8+
- Стандартные библиотеки:
json,os,pathlib
# 1. Клонируйте репозиторий
git clone https://github.com/valentinpo/Onbon-LED-Controllers-Data-Repository.git
cd Onbon-LED-Controllers-Data-Repository
# 2. Полный цикл обработки
python merge.py # Шаг 1: Объединение файлов
python add_fields.py # Шаг 2: Добавление полей
python get_list.py # Шаг 3: Получение списка
python create_folders.py # Шаг 4: Создание структурыmerged.json— объединённая база контроллеровmerged_updated.json— финальный файл с добавленными полямипо категориям/— данные, сгруппированные по категориямcontrollers_list.txt— полный список контроллеров
- onbon-parser — парсер сайта onbon.ru
- onbonbx-parser — парсер сайта ru.onbonbx.com