Прочие базы данных

ВСЕ СТАРЫЕ И ЗАКРЫТЫЕ ТЕМЫ

Модераторы: ataka, konkar, deicide

Закрыто
Аватара пользователя
broyury
профи
Сообщения: 63
Зарегистрирован: 16 июн 2022, 17:56
Откуда: СССР
поблагодарил: 79 раз
были благодарны: 129 раз

Re: Прочие базы данных

Сообщение broyury »

26.UK OFSI Consolidated List of Targets
поля: "id","schema","name","aliases","birth_date","countries","addresses","identifiers","sanctions","phones","emails","dataset","first_seen","last_seen"
3561 записей
формат CSV с разделителем ","
[External Link Removed for Guests]
пароля нет
Аватара пользователя
ttm
профи
Сообщения: 99
Зарегистрирован: 09 июн 2022, 12:24
поблагодарил: 341 раз
были благодарны: 156 раз

gurmanikzn.ru orders

Сообщение ttm »

Дамп заказов Казанского сайта доставки еды
gurmanikzn.ru
Поля: Имя, Телефон, Адрес, перечень блюд, сумма заказа
1078 записей. JSON
 Скрытый текст. Для просмотра нужно [Local Link Removed for Guests]
Аватара пользователя
Burg0mister
профи
Сообщения: 266
Зарегистрирован: 19 июл 2022, 17:07
поблагодарил: 1329 раз
были благодарны: 536 раз

Re: Прочие базы данных

Сообщение Burg0mister »

Всем доброго дня!

Публикую обновлённую версию зачистки утечек СДЭК 1-2-Контрагент
Сразу хочу выразить благодарность AKPM, без его подсказки регулярных выражений эту версию сделать бы не удалось ещё долго.

Что изменено по сравнению с прошлой версией?
-В общей сложности удалено около 10 миллионов строчек с дублями и мусором;
-Удалены дубли в рамках одной строки.
Было: 79271234567 Марков Пётр Максимович Марков Пётр Максимович YKT123
Стало: 79271234567 Марков Пётр Максимович YKT123

Таким образом удалось снизить вес каждого файла и сейчас все три файла весят меньше, чем в прошлой версии один только СДЭК-1.

Конкретно по файлам:
СДЭК-1
Было: размер - 12.4ГБ строк - 194.4М
Стало: размер - 7.82ГБ строк - 186.2М

СДЭК-2
Было: размер - 2.8ГБ строк - 41.5М
Стало: размер - 1.77ГБ строк - 40.34М

СДЭК-Контрагент
Было: размер - 2.03ГБ строк - 26.25М
Стало: размер - 1.58ГБ строк - 26.001М

Что НЕ сделано?
1-Не приведены в порядок номера телефонов, опасаюсь навредить с их изменением {а вот если это сделать правильно - получится удалить ещё много дублей};
2-Не приведён в общий вид регистр строк {знаю как это сделать, но не решил как будет красивее и удобнее};
3-Имена и наименования набранные латиницей не переведены в кириллицу {могут потеряться важные особенности некоторых слов, не совсем понимаю как это делать массово и с каким словарём};
4-Остаётся ещё много мусора и дублей, которые выявились бы после корректировки мусора и ошибок {скорее всего десятки миллионов строк};
5-Файл СДЭК-Контрагент не приведён к четкой структуре в виду некоторой хаотичности записей внутри {плюсы перед большинством номеров оставил умышленно, в будущем позволит проще обрабатывать эту информацию при реструктуризации и чистке}.

Но это ещё не всё!
После всей этой чистки были слиты СДЭК-1 и СДЭК-2, а потом проведена уборка дублей.
В этой версии удалось удалить ещё 9.7М строк.
Этот файл был назван СДЭК-12
Таким образом самый экономичный и лёгкий вариант - использовать слитый в одно СДЭК-12 и плюсом СДЭК-Контрагент.
Получится сэкономить - 400МБ дискового пространства и ускорить поиск за счёт сокращения строк в базе.

ПРОСЬБА
Проверьте целостность баз, ничего не должно было пострадать, но всякое бывает.

ССЫЛКА НА АРХИВЫ:
Скрытый текст
Для просмотра скрытого текста необходимо быть авторизованным пользователем.
Пароль: рекомендованный
Извините, объём работы слишком велик, решил эту обработку перекрыть именно рекомендованным.
Однако оставляю за собой право поделиться этой утечкой под личным паролем с теми пользователями, которые ещё не имеют рекомендованный пароль, но причинили мне здесь добро и помощь.
Новорегам и тем, кого не знаю - по прежнему готов выдать пароль от прошлых версий, если они до сих пор доступны.
Спойлер
Если на раздачи ставлю личный пароль - делюсь им безвозмездно, так же он есть и у администрации! Приму в дар БД с контактами, ФИО, адресами по СНГ/РФ. Интересуют: Современные ГИБДД, банки, блэклисты банков, телефоны, спецучет и т. п.
Аватара пользователя
борис18
новый пользователь
Сообщения: 14
Зарегистрирован: 29 ноя 2021, 18:24
поблагодарил: 13 раз
были благодарны: 53 раз

Re: Прочие базы данных

Сообщение борис18 »

 Скрытый текст. Для просмотра нужно [Local Link Removed for Guests]
Аватара пользователя
борис18
новый пользователь
Сообщения: 14
Зарегистрирован: 29 ноя 2021, 18:24
поблагодарил: 13 раз
были благодарны: 53 раз

Re: Прочие базы данных

Сообщение борис18 »

[External Link Removed for Guests]
csv 79831 данных
фио.дата раждения.телефон(только сотовые) должность.емаил пас данные
Аватара пользователя
memnos
профи
Сообщения: 109
Зарегистрирован: 06 июл 2022, 16:45
поблагодарил: 134 раз
были благодарны: 545 раз

Re: Прочие базы данных

Сообщение memnos »

UA - База жителей Кривого Рога
 Скрытый текст. Для просмотра нужно [Local Link Removed for Guests]
Аватара пользователя
Hastler
Сообщения: 2
Зарегистрирован: 16 фев 2022, 05:37
поблагодарил: 2 раз

Re: Прочие базы данных

Сообщение Hastler »

[Local Link Removed for Guests] писал(а): [Local Link Removed for Guests]29 июл 2022, 05:29 [External Link Removed for Guests]
Архив содержит 4 json-файла
Данные : ФИО, номер телефона, ИНН

Количество строк в файлах:
privat_people.json 21066695
privat_people_phone.json 36701301
privat_phone.json 40134498
privat_passport.json 20873108

Добрый день!
Можно обновить ссылку? Заранее Спасибо!
Аватара пользователя
https2
профи
Сообщения: 162
Зарегистрирован: 15 дек 2021, 19:44
поблагодарил: 539 раз
были благодарны: 310 раз

Re: Прочие базы данных

Сообщение https2 »

Интернет магазин ЧАС. [External Link Removed for Guests]
Купить батарейки, аккумуляторы, флешки, хозтовары, фонари в Севастополе и Крыму с доставкой. Оптом и в розницу.
2022 Г
[External Link Removed for Guests]
Аватара пользователя
memnos
профи
Сообщения: 109
Зарегистрирован: 06 июл 2022, 16:45
поблагодарил: 134 раз
были благодарны: 545 раз

Re: Прочие базы данных

Сообщение memnos »

Интернет магазин "ЧАС"
 Скрытый текст. Для просмотра нужно [Local Link Removed for Guests]
Аватара пользователя
AKPM
профи
Сообщения: 123
Зарегистрирован: 30 ноя 2021, 02:33
поблагодарил: 327 раз
были благодарны: 718 раз

Re: Прочие базы данных

Сообщение AKPM »

Телеграм который публиковали в мае в json. Просьба переконвертировать в csv со всеми полями. Пароль рекомендованный.
[External Link Removed for Guests]
Закрыто