При возникновении крупного системного инцидента происходит множество онлайн и офлайн коммуникаций — по крайней мере, так должно быть. Онлайн часть создает цифровой аудиторский след того, что произошло, как люди отреагировали и, в конечном счете, как была решена проблема. Компания Jeli начала свою деятельность несколько лет назад, чтобы помочь компаниям понять и отследить инциденты. Сегодня компания объявила о следующем логическом шаге в этом направлении — бета-версии, которая привносит в управление инцидентами функциональность, подобную ChatGPT.
Основатель и генеральный директор компании Нора Джонс говорит, что добавление генеративного ИИ в продукт казалось естественным продолжением того, что они уже делали. «Мы всегда находимся в поиске того, как улучшить продукт и облегчить людям понимание того, что они должны делать в чрезвычайной ситуации, или даже вне ее, и где можно получить экспертную помощь. Поэтому мы начали использовать генеративный искусственный интеллект для помощи во время инцидента, а также после него», — рассказала Джонс в интервью TechCrunch.
Для начала он поможет людям понять, что произошло, с помощью функции обобщения. По ее словам, иногда инцидент может затянуться на несколько дней или недель, и возможность разобраться в ситуации без необходимости продираться через все сообщения может сэкономить массу времени для людей, участвующих в инциденте. Поэтому во время инцидента у нас есть функция под названием «Догони меня», которая берет весь разговор, который произошел на данный момент, и обобщает его для тех, кому необходимо получить информацию об инциденте», — сказала она.
Кроме того, компания предлагает пользователям описательную часть, позволяющую получить представление о масштабах инцидента. «Мы позволяем генерировать маркеры, которые обобщают информацию о том, где произошло обнаружение, кто с ним связан, что они сказали, где произошла диагностика и где произошел ремонт. Идея заключается в том, чтобы направить человека на понимание аномальных вещей в том, как разворачивалось событие».
Для создания этой функциональности компания использует для начала API OpenAI, но Джонс говорит, что они специально обучали модель управлению компьютерными инцидентами. «Мы используем генеративные модели из OpenAI. Так, мы использовали ChatGPT, а затем смогли улучшить многие ответы с помощью таких вещей, как рассуждения по цепочке мыслей. Это позволило нам легче классифицировать стенограммы инцидентов», — говорит она.
Джонс говорит, что необходимо ограничить проблему галлюцинаций, когда модель выдумывает часть ответа, что было бы особенно проблематично в сценарии управления инцидентами. Они показывают свою работу, чтобы человек мог проверить исходный материал и убедиться в правильности генерируемых ими данных.
«Вы можете увидеть сводку и все доказательства, из которых она взята. Я никогда не хочу называть это «автоматизированным вскрытием» или «автоматизированным анализом инцидента», потому что это не так, это как бы кик-стартер. И мы на самом деле поощряем людей редактировать то, что получилось в результате», — сказала она.
В текущей версии пока нельзя запросить отчет об инциденте, но Джонс говорит, что цель бета-версии — доработать созданную систему, и они будут решать, как ее улучшить, основываясь на отзывах пользователей.
