Создание инцидента в hd из 1с ответы билайн
Обновлено: 04.07.2024
Весь телеком-бизнес основан на данных, и Билайн не исключение. Данные генерируются как внутри, так и снаружи: в OSS-системах (события на оборудовании, сетевой трафик), в BSS-системах (клиентские транзакции, маркетинговые кампании), на платформах Яндекс, Google и других. Общее количество систем, с которыми работает компания, исчисляется сотнями.
Чтобы извлекать пользу из всех этих данных, в Билайн с 2014 года существует и развивается платформа для их обработки. Считаю полезным для ИТ-сообщества делиться опытом, поэтому начинаю цикл статей о платформе обработки данных в Билайн.
Этот пост является первым. Поэтому для старта я кратко расскажу о роли платформы в реализации стратегии компании, предоставляемых возможностях (capabilities) и основных характеристиках. В последующих постах я буду более детально останавливаться на каждом элементе, иногда даже с погружением в отдельные компоненты.
Началом существования платформы обработки данных принято считать то время, когда в Билайн начали стартовать первые digital-проекты, основанные на аналитике данных. Платформа была создана как лаборатория: состав технологий мог меняться с каждой новой задачей, объем оборудования определялся глубиной данных, необходимых конкретным продуктовым командам. Тогда же начала формироваться команда девопс-инженеров, в руках которой и по сей день находится эксплуатация платформы.
Но сейчас это уже продукт с регламентами эксплуатации, контролем за доступом к данным, постоянными линиями поддержки и мониторинга. Естественно, все это развивается дальше и не стоит на месте – поэтому и появился этот материал.
Роль платформы в стратегии
Топ-менеджмент Билайн с 2020 года принял решение о внедрении компании доменного подхода к данным. Да, мы теперь тоже строим data mesh. На практике это означает переход к схеме работы, когда ответственность за данные распределена между подразделениями компании. Когда эта трансформация завершится, граница между ИТ и бизнесом будет стерта полностью – компетенции по работе с данными будут везде. В новом состоянии компании разработкой и аналитикой будут заниматься буквально в каждом подразделении. У каждого логического куска данных будет хозяин. И это будет не ИТ-подразделение.
Идеологической основной для нас были и остаются 2 статьи:
Далеко не многие компании так делают, это сложный по реализации подход. На первый взгляд проще организовать одну центральную команду, которая принимает в разработку различные задачи по ТЗ, а потом сообщает о том, что все готово. Это приводит в итоге к непрозрачности отнесения расходов, конфликтам интересов и сложной процедуре передачи информации между «заказчиками» и «исполнителями». Мы считаем это анти-паттерном.
Мы решили поместить специалистов по работе с данными во все подразделения, чтобы приоритеты раздавались напрямую, непосредственно в продуктовых командах. Все необходимые роли, которые нужны для продукта, собираются в команду под управлением владельца продукта. Он напрямую ставит задачи архитектору, инженеру данных, data scientist-у, BI-разработчику, аналитику.
Иллюстрация подхода ниже
Сразу оговорюсь, что загрузку группы источников мы тоже рассматриваем как своего рода продукт особого типа – домен данных, приближенный к источнику.
Продуктовый подход повышает вовлеченность сотрудников и делает работу более прозрачной. Сразу видно: во что мы вкладываем и что получаем. Исключается конкуренция между продуктовыми командами, которые просят разработчиков помочь сделать что-то вперед других. Все происходит параллельно.
А платформа нужна для того, чтобы все продуктовые команды работали на конечном, детерминированном стеке, обеспеченном командой эксплуатации. Ведь подход data mesh не говорит сколько баз данных или физических платформ должно быть. Мы для себя решили, что экономически проще набирать и готовить людей нескольких определенных профилей, обеспеченных коммунальными возможностями платформы.
Самое время их перечислить.
Возможности платформы
1. Оркестрация обработки данных.
Построение зависимостей между задачами, запуски по расписанию. Тесно связан со следующим пунктом. Airlow запускаем на Kubernetes для каждой команды – свой экземпляр с соблюдением всех правил по безопасности.
Стек: Целевой - AirFlow, Legacy – Oozie
2. Обработка потоковых данных.
Стек: NiFi, Flink.
3. Пакетная обработка данных aka ETL.
Все еще самый доступный и популярный способ ввиду его исторической массовости. Снова сюда же относится пакетная (batch) загрузка данных. Это преимущественный способ работы с данными из BSS-систем.
Стек: Целевой - Spark, Legacy – MapReduce.
4. Хранение данных.
Хранение в разных видах – блочное, файловое, объектное, табличное, колоночное. Зависит от типа решаемой задачи.
Стек: HDFS, Hive, Ceph, GreenPlum, MySQL, Postgres, ClickHouse.
5. Continuous integration & Continuous delivery.
Сборка кода и обновление версий в продуктиве
Стек: GitLab, Nexus, Terraform, Vault.
6. Транспорт данных.
Отказоустойчивая доставка любых событий, прием потоковых данных.
7. Развертывание приложений и виртуализация.
Помогает для быстрого вывода приложений в продуктив, спасибо контейнерам и CI/CD.
Стек: Kubernetes, OpenStack.
8. Сбор и управление логами.
Любые логи, сбор которых вы только сможете настроить.
Стек: Graylog, ElasticSearch.
9. Визуализация данных.
Позволяет рисовать наглядные дашборды, на которых будет выводиться информация, основанная на обработанных данных.
Стек: Qlik Sense.
10. Мониторинг и алертинг.
Собирает сигналы со всех уровней (железо, ОС, платформа, приложения), отправляет уведомления в Slack, Telegram, создает инциденты. Активно развивается в сторону генерации событий также и на основании лого из Graylog.
Стек: Целевой – Victoria Metrics, Grafana, Alerta.io. Legacy – Zabbix, Remedy.
Общая схема платформы
Характеристики платформы
Сегодня платформа — это чуть более 1 000 серверов, из них порядка 450 используется для Hadoop. Остальное используется под различные стенды, от Kafka, NiFi и Kubernetes до различных тестовых сред. В основном кластере Hadoop сейчас находится примерно 14 петабайт данных. Ежедневная аудитория пользователей – около 500. Количество активно работающих команд – около 20, количество продуктов – около 50.
Пользователи - все подразделения компании.
На этом завершается краткий обзор платформы, и далее пойдет описание первой из возможностей – оркестрация обработки данных на базе AirFlow.
Оркестрация обработки данных в AirFlow
В 2020 году параллельно с продолжением использования Oozie мы начали тестировать и внедрять для оркестрации задач Airflow. По сравнению с Oozie он более активно развивается, не привязан исключительно к Hadoop, имеет более наглядный интерфейс и имеет больше опций для разработчика. Не буду здесь углубляться в сравнение, так как эта тема раскрыта в открытых источниках. Достаточно даже просто посмотреть параметры проектов на GitHub. Хочется рассказать о том, как это сделано у нас.
1. Используем для запуска только Kubernetes.
Продуктовые команды разделены по namespaces, выполнение каждого оператора происходит в отдельно поднимаемом поде неймспейса продукта. Этим достигается изоляция команд друг от друга, а также разграничиваются права доступа к административным возможностям AirFlow. Тимлиды команд имеют полные права на инстансе своей команды и несут ответственность за его работоспособность.
2. Все секреты хранятся в Vault.
Команда не использует учетные записи и пароли напрямую, они запрашиваются только из Vault. А в самом Vault используется Kubernetes-аутентификация. Так мы исключаем hard-code паролей внутри приложений и DAG-ов AirFlow.
3. Все логи приложений в Kubernetes (и AirFlow не исключение) просматриваются через GrayLog.
Таким образом, каждый разработчик через redirect с front-end получает доступ к нужным логам для отладки DAG-ов.
4. Метрики scheduler-а из statsd забираются Prometheus, поверх них строится алертинг и визуализация в Grafana.
Таким образом, аналогично логам, каждая команда работает через web-интерфейс с метриками своего AirFlow по одному адресу.
5. DAG-и для каждой продуктовой команды хранятся в GitLab и оттуда через CI/CD доставляются на продуктивный контур.
Это один из основных принципов нашей работы – автоматизировать все что можно, в данном случае команде достаточно сделать merge в продуктивную ветку, после чего автоматизировано код DAG доезжает до прода.
6. Для работы каждого инстанса AirFlow используется Postgres с автоматическим failover, который также запускается на Kubernetes.
Это в какой-то степени вынужденная мера, так как администрировать из центра столько отдельных AirFlow с их базами данных было бы очень тяжело. Поэтому при создании каждого экземпляра – сразу предусматривается отказоустойчивость для базы данных, которая его обслуживает.
Cхема развертывания AirFlow для продуктовой команды
В заключение добавлю, что заказ своего экземпляра AirFlow для продуктовой команды осуществляется через одну общую заявку на создание ландшафта, в результате выполнения которой автоматизировано настраиваются все перечисленные выше возможности.
Вот и моя очередь наступила рассказать о своей "Любимой" работе у желто-черных енотов.
Начнем Пожалуй с обучения. Обучали меня мягко говоря - НИКАК. Пришел в офис продаж меня принудили купить черную футболку, и сказали что скоро дадут учетную запись для прохождения тестов. Ждал я её примерно неделю. При том при всём руководителю офиса абсолютно всё равно ученик ты или нет. он заставит тебя отрабатывать 12 часов в сутки так как у него не полный штат. Оплачивают тебе кстати за 8 часов.
Когда тебе все таки предоставляют возможность проходить тесты, ты их проходишь мягко говоря очень быстро. Но при этом сами тесты как будто делали для самых глупых людей что можно представить. На выходе кстати из обучения проходишь тестирование итоговое, а теперь сенсация, итоговый тест для трудоустройства можно пройти за чисто символическую сумму в размере 500 рублей. Оттуда и появляются самые лучшие в кавычках работнички.
По факту трудоустройства, меня к моему превеликому расистскому сожалению отправили работать на рынок, где ОЧЕНЬ много наших друзей с ближнего зарубежья.
Каждый божий день ты делаешь денежные переводы огромными суммами, и стараешься обмануть всех этих людей.
Недавно видел пост про зарядку за 249 рублей, дак вот эта цена не взята из воздуха, компания действительно требует за зарядку телефона до получаса эти деньги, тоже самое что консультация специалиста 300 рублей (не по услугам от компании)
Я же в силу своей доброты уступал многие моменты в пользу клиента. На примере продажи сим-карт. От нас требовали продавать симкарты только с тарифом ВСЁ 2 и выше. объясняя это тем что дешевых нет в наличии (симка 300 р).
или же подключение дополнительных услуг или смена тарифа со скидкой. никогда компания не предоставит вам скидку просто так. Есть такой показатель как АРПУ средние расходы на связь за 3 месяца. и тариф который вам предлагают всегда выше ваших нынешних расходов на связь.
про условия труда отдельная тема. Туалета нет, микроволновки нет, чайника нет. при этом есть час обеда в который ты все равно должен находиться в салоне связи. как успевать кушать я так и не понял.
Рассказ не окончен, если будет интересно вы знаете что делать.
@rezviy0trezviy - ну как милейший расскажи в каком таком официальном офисе: городу-улица-номер дома ты официально работал?
с фейковых мультоаккаунтов "ДАВНО" делается ВБРОС? и хорошо ли ЭТО оплачивается?
У меня тариф "Все3", очень удобный тариф, как оказалось. Дороговат, но в итоге с ним экономим. Тоже сотрудники би-лайна навязали пару месяцев назад.Эт ты зря,все зависит от начальства и как ты себя зарекомендуешь.
проработал я там 8 месяцев и ушол надоело нытье людей где мои 10 копеек,я пенсионер можно мне тариф для пенсионера,можно мне 100 рублей на счет положить. получал я хорошо 33т средняя зп самое большое это 52т с вычетами.+постоянные калымы наклеек пленок ,стекол, сбросов настроек и пробивать по кассе грех получаешь 10-25%% от суммы лучше положить в кассу и в конце смены забрать их.
Продаешь страховки на трубке будут тебя любить и уважать можешь уходить гулять по торговому центру хоть целый день кури хоть в подсобке тока делай планы.А еще там есть анонимный донос,+можно накатать заяву в ДАОР (эти ребята выебуть хоть кого так как они этим заинтересованы.
Честных хороших продавцов нету и не будет. это их работа наебать и получить бабки.
сей басни такова нету образования и опыта работы иди работать продавцом (платят хорошо все зависит от тебя.
О работе в Билайне, или почему идти туда работать никому не советую
Однажды, будучи в поисках работы, находясь уже на грани отчаяния, наткнулся на вакансию специалиста офиса продаж компании ВымпелКом, так же известной как Билайн. В тот момент я даже не подозревал что занесёт меня туда, в итоге, на целые 2 года. Как показала практика, мало кто там задерживается сильно на долго, т.к. условия труда (о чем и будет речь в данном посте) оставляют желать лучшего, и, в основном, данное место работы рассматривается как временное, перекантоваться некоторый незначительный период, пока не подвернется более…вменяемое что ли место.
Модуль «Smart Service Desk» поддерживает механизмы учета проблем и инцидентов. Для таких целей используется документ «Проблемы и инциденты».
В документе нужно выбрать тип, например, можно указать тип документа как «Проблема» или «Инцидент с оборудованием», или «Инцидент прочий». В случае указания типа как «Инцидент с оборудованием» на закладке «Основное» появляется поле списка, в котором можно указать оборудование предприятия, с которым произошел инцидент.
К документу можно приложить один или несколько ссылок.
На закладке «Принятые меры» можно описать принятые для исправления ситуации меры, указать дату решения проблемы, а также перечень сотрудников, участвовавших в решении.
Важной особенностью документа «Проблемы и инциденты» является возможность запуска бизнес-процессов на его основании.
Бизнес-процессы создаются в визуальном редакторе процессов в пользовательском режиме, без программирования.
Запустить процесс можно из меню «Бизнес-процессы» в форме документа «Проблемы и инциденты» или из аналогичного меню в форме списка данного документа.
Бизнес-процессы должны быть предварительно настроены и подготовлены для работы с данным видом документов. Настройка процессов подробно описана в разделе «12. Работа с процессами поддержки», размещенном ниже в данном руководстве пользователя.
Процессов для обработки проблем и инцидентов может быть создано произвольное количество. Для этого в справочнике «Виды процессов» создайте новый вид процесса. На закладке «Переменные» нажмите «Заполнить переменные \ Заполнить для проблемы/инциденты».
При первом запуске системы в справочнике «Виды процессов» создается простой процесс обработки инцидента. В нем две точки действия. В первой точке действия задача выдается сотруднику, указанном как ответственный по инцидентам. В случае, если в виде процесса «Обработка инцидента» переменная «Ответственный по инцидентам» не заполнена, то её значение берется из настроек бизнес-процесса (значение затем может быть изменено в форме процесса).
Важно! Данный вид процесса может быть значительно изменен и расширен (в том числе он может включать вызовы других процессов) средствами встроенного в модуль редактора бизнес-процессов. Вы также можете создать разные виды процессов для обработки различных инцидентов и проблем.
Для разработки дополнительных бизнес-процессов удобно использовать кнопку «Создать копию» в форме списка видов процессов. В таком случае в новый процесс скопируются все реквизиты и переменные старого процесса, а также маршрутная схема.
В разделе «Настройка подсистемы» можно указать ответственного по инцидентам, к которому будут попадать задачи с приложенными документами «Проблемы и инциденты».
Документы с типом «Инцидент с оборудованием» также доступны на закладке «Инциденты» формы элемента справочника «Оборудование предприятия».
По информации издания "Коммерсантъ" и телеграм-канала "Утечки информации", «Билайн» начал расследование факта массовой утечку данных клиентов. По информации ИБ-исследователей, персональные данные почти 2 млн пользователей из текущих 2,86 млн абонентов проводного широкополосного интернета оператора связи были в свободном доступе с 27 августа по 13 сентября.
Представитель «Билайна» уточнил, что, по имеющейся у него информации, в утечке, которая содержит около 4,2 ТБ данных, могут содержаться технические логи небольшой части абонентов фиксированного интернета.
Фактически утекшие данные содержат адрес абонента, его ФИО, паспортные данные, электронную почту и номер телефона.
Также в компании сообщили, что «провели дополнительное расследование инцидента и убедились, что все данные находятся под надежной защитой, а клиентам ничего не угрожает».
«Билайн» планирует по результатам внутренней проверки обратиться в правоохранительные органы для расследования инцидента, а также напомнил, что «кража любой информации, связанной с данными ее клиентов, является уголовно наказуемой».
Как компания будет компенсировать клиентам эту утечку, представители «Билайна» не пояснили.
По информации «Интерфакса», Роскомнадзор запросил у компании «Вымпелком» (бренд «Билайн») информацию об утечке персональных данных 2 млн абонентов проводного широкополосного интернета. В случае подтверждения факта утечки в компании и получения регулятором доказательств несоблюдения ею сохранности персональных данных, «Билайн» грозит штраф до 100 тыс. рублей, согласно ст. 13.11 КоАП РФ.
Представитель РКН посоветовал всем пострадавшим абонентам «Билайна» требовать от оператора связи соразмерной компенсации как в досудебном, так и в судебном порядке.
Основатель сервиса разведки утечек данных и мониторинга даркнета DLBI Ашот Оганесян назвал этот инцидент с «Билайном» одной из крупнейших утечек персональных данных в 2021 году.
Первым о массовой утечке данных абонентов «Билайна» сообщил эксперт по информационной безопасности компании Security Discovery Боб Дьяченко. При попытке связаться с ИБ-специалистами компании в «Билайне» Дьяченко посоветовали написать им в техподдержку на русском языке, а также назвать логин, ФИО и номер телефона для обратной связи.
Раньше было принято говорить о том, что в России есть «большая тройка» операторов сотовой связи, т.е. Билайн, Мегафон и МТС. Сейчас мы говорим о «большой четвёрке», т.е. Билайн, Мегафон, МТС и Теле2. Я опущу рассказ о том, почему мы поменяли МТС на Билайн и почему сейчас не можем перейти с Билайна на связку Мегафон + Теле2 или Билайн + Теле2, не буду говорить о том, как везде всё плохо, а сразу перейду к списку проблем, к которым мы оказались не готовы внедряя виртуальную АТС (далее ВАТС) просто потому, что для нас эти вещи были не очевидны. Мы искренне верили в то, что ВАТС добавляет функционал, но на деле выяснилось, что часть функций пропадает или начинает работать иначе, наш менеджер об этом знал, но полагал, что для нас это очевидно или для него это тоже стало открытием.
Кратко о нас: известная в Иваново компания (на рынке больше 10 лет), сейчас у нас в районе 80-90 номеров, филиалы в Иваново, Комсомольске (Ивановская область), Краснодаре, Ижевске и Москве. В общем, как уверяют нас менеджеры всех 3-х операторов (Теле2, к сожалению, даже общаться не хочет), с нами все хотят работать и все готовы дать нам лучшие условия.
Я не знаю есть ли такие проблемы в других ВАТС мобильных операторов (менеджеры говорят что у всех ситуация схожа ±), а просто напишу по пунктам. Надеюсь, что это поможет вам.
4. Звонки внутри виртуальной АТС проходят как короткие номера, если абонент 9610001122 имеет короткий номер 200 и звонит своему коллеге, который в АТС, то коллега видит не 9610001122, а 200. Потрудитесь ещё раз добавить всех коллег в записную книжку.
5. Абоненту ВАТС можно задать имя внутри АТС, но оно не будет высвечиваться на экране когда он(а) звонит вам, т.е. отметка только для тех, кто заходит в ВАТС.
6. Есть «новая» и «старая» платформа, они от разных вендоров. На новой платформе куча проблем, о которых сотрудники техподдержки прекрасно знают, но по умолчанию вас подключают на новую платформу.
7. Несмотря на то, что техподдержка знает о глобальных проблемах, она просит на каждую проблему пример в виде: откуда, куда, время и дата, примечания. Т.е. ваши сотрудники будут не звонить, а писать отчёты для Билайна чтобы они смогли починить свою АТС, за которую вы платите.
8. Если поругаться, покричать и написать на почту то вам сделают перерасчёт за ВАТС, но как максимум просто вернут деньги за услугу, а то, что в это время вообще не могли пользоваться мобильной связью, так это ваши проблемы.
9. Кстати реально работать и звонить вам каждый час даже в выходные техподдержка будет только после того, как вы напишите письмо что встали на лыжи и поехали к другому оператору. Но не сразу, сначала нужно «эскалировать проблему на более высокий уровень». Это не камень в огород техподдержки, вероятно, что им дают отмашку реально бросать все силы на клиента только в этот момент.
10. Вы можете столкнуться с тем, что звонки от одного из абонентов вашей ВАТС не проходят на другую ВАТС Билайн. Обещают решить за неделю, решают за 1,5 месяца. То, что менеджер не может звонить клиенту, так пускай со своего личного позвонит. У вас запрещено? Разрешите!
Рекламная пауза: мы ещё НЕ ВКЛЮЧАЛИ запись звонков и дополнительное место, ждём пока всё более-менее настроится и стабилизируется, после чего можно будет включить эту услугу. Мне очень хочется верить в то, что её включение не приведёт к написанию аналогичной статьи, но, чувствую, вполне может. А пока продолжим.
11. Как вы могли догадаться, ВАТС нужна чтобы отдавать данные о звонках в CRM, но вот незадача – коннектор кривой, запросто может потерять часть звонков (иногда 30-35%).
13. Ваш сотрудник не может иметь больше одного рабочего номера. По мнению Билайн. Выдавать ему можно, звонить тоже, а вот в CRM к одному пользователю привязывается только 1 телефон.
14. На большинство проблем вам дадут стандартные ответы о том, что и как нужно сделать чтобы всё заработало. К сожалению, никто не обещает, что это поможет, так что вы или принимаете их совет или не принимаете. Любые прямые и косвенные потери это ваша проблема.
15. Если есть на кого свалить (разработчик приложения, разработчик CRM, ответственный за внедрение и т.п.) то они сначала свалят на них и только после того, как вы напишите, что «другие ребята» всё проверили и проблема не у них, по вашей заявке начнутся работы, даже если очевидно что проблема изначально на стороне ВАТС (лайвхак: другим ребятам можно не писать, достаточно сказать что писали им).
16. Очень редко вам могут предложить нестандартное решение проблемы, обычно разговор строится в стиле да/нет, можно/нельзя. Нам не говорят вот так нельзя, но если нужно, то есть обходной путь.
Все вышесказанное является не жалобой, а личным опытом, полученным начиная с конца октября 2019 года по настоящее время. Я не говорю о том, что у Билайна плохая ВАТС и ленивая техподдержка, а лишь констатирую факты, которые имеют место быть у нас. Буду крайне признателен, если вы расскажете о вашем опыте работы с ВАТС Билайн, как вы решали проблемы, а так же об опыте работы с ВАТС других сотовых операторов.
Читайте также: