Избавление от фишинга в электронной почте в массовом масштабе

Как Twilio SendGrid обеспечивает отсутствие фишинга в 99,97 % 50-миллиардных электронных писем в месяц

Twilio SendGrid ежемесячно обрабатывает более 50 миллиардов электронных писем, то есть мы затрагиваем более половины уникальных пользователей электронной почты в мире каждые 90 дней. При таком огромном масштабе и охвате крайне важно защитить защищенную информацию и учетные данные получателей от опасного фишинга.

Безопасность платформы и непрекращающаяся борьба с злоумышленниками становятся проблемой только тогда, когда защита выходит из строя. Но открытые платформы, такие как Twilio SendGrid и другие поставщики общедоступных облачных сервисов, подвергаются атакам каждый день в году.

Фактически, 83 % специалистов по информационной безопасности заявили, что они подверглись фишинговой атаке в 2018 г., что больше, чем 76 % в 2017 г. А при средней стоимости фишинговой атаки для компании среднего размера около 1,6 млн долларов она может принести или сломать бизнес, в котором нет необходимых протоколов безопасности.

Уровень защиты входящих сообщений Twilio SendGrid измеряет успех его усилий по обеспечению соответствия требованиям, чтобы предотвратить попадание вредоносной электронной почты примерно к 2 миллиардам получателей электронной почты SendGrid.

По состоянию на 31 марта 2019 г. SendGrid достигла 99,97% легитимной электронной почты во всем потоке исходящей почты.

Измеряя, насколько успешны наши усилия по соблюдению требований, мы отслеживаем не только наш успех с точки зрения доставляемости, но и, что более важно, потенциальные риски, с которыми мы сталкиваемся, и их влияние на всю экосистему цифровых сообщений в ходе надлежащей работы.

Понимание как хорошего, так и плохого, а также измерение нашей эффективности обеспечивает уровень прозрачности для наших клиентов и, что более важно, для их клиентов.

Анатомия фишингового письма

Важно понимать разницу между фишем и спамом. Спам описывает нежелательную почту — это может быть что-то, на что вы подписались, или плохо нацеленная кампания. В некоторых случаях спам мог быть законной электронной почтой, но отсутствовали методы отказа. В большинстве случаев спам не рассылается с намерением обмануть получателя или скомпрометировать его личную информацию (PII).

Фишинг, с другой стороны, имеет только одну цель: получить доступ к конфиденциальной информации, такой как пароли или номера социального страхования, доставить вредоносное ПО, перенаправить ничего не подозревающих жертв на сайты программ-вымогателей и использовать любой другой способ компрометации. Идея состоит в том, чтобы сыграть на страхе и любопытстве человека и заставить его невольно раскрыть информацию с единственной целью эксплуатации.

Фишинговые атаки принимают разные формы: от плохо составленных электронных писем с вложениями до очень сложных сообщений, в которых используются ссылки и изображения из законного контента, размещенного поддельной компанией в Интернете, с единственным призывом к действию, который может быть скомпрометированной ссылкой.

Фишеры используют хостинговые компании как часть сложной игры с тенями, регистрируя родственные домены, такие как @yah00.com, @payypal.com, @applle или @go0gle.com, чтобы создать видимость легитимности. Это еще больше усложняет усилия сотрудников службы безопасности по предотвращению этих дорогостоящих атак.

Орфографические ошибки, плохое использование английского языка, как будто написанное не носителем языка, и странное «от адреса» — все это признаки того, что электронное письмо может быть не от того, за кого себя выдает, но может потребоваться опытный глаз, чтобы отличить два. Наша работа заключается в защите нашей платформы от злоупотреблений, и тем самым мы помогаем сохранить доверие и подлинность всей экосистемы почтовых ящиков.

Как Twilio SendGrid использует машинное обучение для выявления и предотвращения фишингового поведения

Устранение фишинга и улучшение качества электронной почты — это далеко не ручной процесс для поставщика услуг электронной почты нашего масштаба. Поддержание почтового потока без фишинга требует как технического понимания того, как правильно спроектировать системы доставки в масштабе Интернета, так и векторов атак, используемых злоумышленниками, пытающимися использовать наш масштаб.

Twilio SendGrid разработала систему машинного обучения под названием Phisherman, которая была разработана на основе наших обширных знаний об оскорбительном содержании электронной почты для обнаружения фишинга в нашем почтовом конвейере. Фишерман использует обученную нейронную сеть TensorFlow, чтобы определить вероятность того, что любой данный фрагмент электронной почты является фишинговым, используя обобщенное сравнение слов и векторов для выявления шаблонов в больших наборах данных, которые затем сравниваются с тщательно разработанной моделью, предназначенной для отделения фишинга от хорошей почты. .

Отправляя более 50 миллиардов электронных писем в месяц, мы обрабатываем достаточно хороших и плохих писем, чтобы иметь высокоинтеллектуальный обучающий набор, подходящий для машинного обучения. Это может быть невероятно сложно для небольших компаний, у которых недостаточно данных для обучения своих моделей. С большими обучающими наборами становится возможным более сложное машинное обучение, и мы смогли обучить (и переобучить по мере изменения фишинга с течением времени) наши нейронные сети, чтобы более точно отмечать и блокировать попытки фишинга.

Но системы машинного обучения хороши настолько, насколько хороши люди, которые их обучают. Наши агенты по соблюдению нормативных требований проверяют все пойманные фишинговые сообщения, чтобы выявить любые ложные срабатывания, обнаруженные системой, тем самым совершенствуя Phisherman с помощью непрерывной разведки и проявляя максимальную заботу о наших надежных отправителях, которые могли быть непреднамеренно помечены.

Наш масштаб дает нам возможность брать пробы из огромного массива почты, но это также означает, что наши системы должны быть спроектированы таким образом, чтобы они не тормозили и не оказывали негативного влияния на законную электронную почту, проходящую через нашу систему.

Повышение доверия и прозрачности в почтовом ящике

Обычно компании не хотят обсуждать свои недостатки — это не в их интересах. Но важно, чтобы мы обеспечивали большую прозрачность не только в отношении того, как используются данные, но и в отношении того, как строятся системы для защиты получателей. Мы надеемся, что другие отправители также поделятся своими ставками, подобно тому, как поставщики SaaS отмечают и делятся временем безотказной работы и доступностью в качестве меры стабильности и эффективности облачной платформы.

SaaS позволил творческим и умным мыслителям создавать мощные технологии, но без контроля он также позволил преступникам использовать огромные масштабы для достижения глобального мошенничества. Установив соответствующие пороговые значения для успеха этих систем, мы можем начать вести более честные разговоры как отрасль о проблемах, которые продолжают усложняться и масштабироваться, а не превращаться в безвестность.

Мы должны объединиться как отрасль, чтобы бороться со злоупотреблениями, и это начинается с большей прозрачности. Задача каждой компании — следить за своими технологиями.

Чтобы узнать больше о том, что Twilio делает для дальнейшего надежного общения с клиентами по всем нашим каналам, ознакомьтесь с недавней записью в блоге генерального директора Twilio Джеффа Лоусона о роботизированных звонках.

Методология оценки уровня защиты папки «Входящие»

Уровень защиты входящих — это мера электронной почты, которая проходит через серверы Twilio SendGrid и считается законной, нефишинговой электронной почтой, отправленной законными предприятиями. Уровень защиты папки «Входящие» не является мерой спама или того, как получено это электронное письмо, поскольку спам является субъективным. Помимо анализа исходящих сообщений, Twilio SendGrid анализирует возвраты электронной почты, свидетельствующие о фишинге и других формах проблем с доставкой.

Twilio SendGrid вручную проверяет заблокированные учетные записи, чтобы определить, был ли отправитель фишинговым. Каждая учетная запись, содержащая фишинговый контент, блокируется и помечается как фишинговая. Затем Twilio SendGrid считает сумму сообщений, доставленных через помеченные учетные записи, как фишинг, и включает фишинг в свои автоматизированные средства защиты, чтобы повысить их эффективность, надежность и скорость обнаружения.