Недавний рассказ из The Washington Post дал публике редкого взгляд изнутри медийный возможностей социального мониторинга полицейского управления Фресно, который спорная возможность проверки куска программного обеспечения под названием Beware. Эта статья вызвала волнение по поводу предполагаемой склонности программного обеспечения к нарушениям гражданских свобод.
Но чем эта программа отличается от мониторинга социальных сетей, проводимого полицией? Остерегайтесь реальной угрозы гражданских свобод? Или все это преувеличено? И что вы можете сделать, чтобы полиция не копалась в ваших постах в социальных сетях?
Очевидный инструмент для полицейских управлений
Сотрудники правоохранительных органов, вероятно, использовали социальные сети для сбора разведданных с тех пор, как это стало массовым явлением — даже в 2006 году полиция арестовала несовершеннолетнего мальчика в Колорадо после того, как он разместил на MySpace свои фотографии с несколькими видами огнестрельного оружия.
Использование социальных сетей в расследованиях с тех пор становится все более распространенным явлением, и существует ряд историй, свидетельствующих о его эффективности. В 2014 году полиция Нью-Йорка конфисковала более 250 незаконно проданных ружей после обширного расследования, которое началось, когда офицеры заметили, что начинающий рэпер разместил изображения инстаграм в своей студии в Instagram.
Поступали бесчисленные сообщения о том, что учеников арестовывают за то, что они размещают бомбы и другие угрозы в отношении их школ, и много арестов за посты, пропагандирующие насилие в отношении полиции. Даже шутка с бомбами
привели к арестам. Это также не ограничивается США; в Великобритании существует достаточный прецедент для ареста, основанного на высказывании чего-либо «грубо оскорбительного» или угрожающего в социальных сетях.
Социальные сети стали важной локализацией позерства и угроз со стороны банд, а полиция в таких городах, как Чикаго и Нью-Йорк, совершила удивительное количество арестов на основе постов в Facebook, YouTube и Instagram, в которых члены банды либо делают что-то незаконное, либо выражают свои Намерение сделать это.
В общем, мониторинг соцсетей является очевидным выбором для правоохранительных органов — если люди публикуют свои незаконные эксплойты на Facebook, где их может увидеть весь мир, они будут окупаться, чтобы контролировать его.
Проблема с осторожностью: алгоритмический подход
Так что, если полиция отслеживает социальные сети в течение многих лет, почему подход Фресно делает заголовки? Часть ответа заключается в том, что Beware использует алгоритмический подход к мониторингу социальных сетей. Многие упрощенные инструменты мониторинга социальных сетей (даже те, которые используются маркетологами социальных сетей
) просто искать конкретные ключевые слова или шаблоны в данных, что отдельные полицейские делают в гораздо меньших масштабах.
Но будьте осторожны, когда предоставляется информация о человеке, рассчитывает «оценку угрозы» на основе, согласно веб-сайту Intrado,
… Миллиарды [публично] доступных коммерческих записей в считанные секунды — оповещение тех, кто реагирует на потенциально опасные ситуации, когда они находятся на пути к 9-1-1 или просят о помощи.
Миллиарды точек данных поступают из сообщений в социальных сетях, ареста и других публичных записей, коммерческих баз данных и многих других типов данных, хотя именно откуда они берутся и как они переводятся в зеленую, желтую или красную оценку угрозы. является коммерческой тайной, охраняемой Intrado, производителем программного обеспечения.
Однако то, как полиция использует эту систему подсчета очков, очевидно — если у вызывающего абонента 911 или кого-либо, кто участвует в вызове, есть желтая или красная оценка угрозы, офицеры будут более осторожны, что может означать, что они будут более вооружены и готовы для беспокойства, мышления, которое может иметь серьезные последствия для звонящего.
В 2007 году полиция расследовала кражу двух консолей PlayStation в кампусе колледжа, когда они обнаружили в социальной сети фотографии подозреваемого, позирующего с применением огнестрельного оружия. Они отправили отряд спецназа в дом подозреваемого, и еще один студент погиб, после того как офицер ошибочно принял звуки тарана, использовавшегося для входа в дом из-за выстрелов. Это именно тот вид вооруженного ответа, основанный на информации, полученной из социальных сетей, которая беспокоит людей.
В статье «Пост» упоминалось, что женщина, которая твитнула об игре «Ярость», и мужчина, который жил в доме, ранее занятом человеком, представляющим интерес, имели повышенный уровень угрозы. Ни один из этих людей не получил бы второй мысли от офицера из плоти и крови, но программное обеспечение Intrado могло поставить офицеров в бешенство, если бы они ответили на вызов любого из этих граждан.
Многих волнует то, что расчеты оценок угроз производятся с помощью алгоритма, разработанного одной компанией, которая не собирается делиться своими уравнениями в ближайшее время — остерегайтесь полного черного ящика. Алгоритмы уже контролируют значительную часть нашей жизни
Но тот факт, что теперь они могут поставить нас в опасную ситуацию, начинает привлекать внимание людей.
Алгоритмические подходы к полицейской деятельности в прошлом вызывали большое количество критики, причем некоторые критики говорили, что они склонны к расовому профилированию, а другие говорили, что эти инструменты являются «расистскими». безрезультатно, причем некоторые исследования показывают снижение уровня краткосрочной преступности, а другие не показывают существенного влияния прогностической технологии.
Наследие наблюдения
Анализ «миллиардов» точек данных напоминает некоторые предыдущие программы, предпринятые правительством США.
Total Information Awareness (TIA) была инициативой, предпринятой Управлением информационного обеспечения в начале 2000-х годов, которая собирала информацию о покупках с помощью кредитных карт, подписках на журналы, просмотре веб-страниц, электронной почте, академических оценках, поездках, юридических событиях и других видах информации. для хранения в центральной базе данных. Даже после того, как TIA была переименована в Террористическую Информационную Информацию, она была закрыта из-за общественного возмущения откровенно оруэлловской идеей.
Один из исследовательских проектов DARPA
заглянул в похожую систему под названием LifeLog, которая собирала …
… Все действия и отношения, в которые вовлечен человек. Это включает в себя покупки кредитной картой, посещенные веб-сайты, содержание отправленных и полученных телефонных звонков и электронных писем, отсканированные и отправленные факсы и почтовые сообщения, отправленные и полученные мгновенные сообщения. чтение книг и журналов, выбор телевидения и радио, физическое местоположение, записанное с помощью носимых датчиков GPS, и [биомедицинские данные, полученные с помощью носимых датчиков.
Очевидно, что Beware и другие решения по мониторингу в социальных сетях далеко не настолько продвинуты и не имеют такого же потенциала для нарушений конфиденциальности. Однако модель правительства США по созданию частей программного обеспечения, нарушающих конфиденциальность, которые либо плохо понимаются публикой, либо держатся в секрете, заставляют многих нервничать. А мониторинг соцсетей со стороны полиции выглядит так, будто он может стать полем битвы за гражданские свободы.
Многие люди уже приняли сторону. Большое количество доступных программ мониторинга социальных сетей свидетельствует о том, что многие полицейские управления и другие организации (включая школы) заинтересованы в использовании этой технологии.
С другой стороны, такие группы, как ACLU, уже выступили против этой технологии, заявив, что это может позволить полицейским департаментам «подвергать людей подозрению просто за то, что они высказывают свое мнение в Интернете». Сообщение в блоге ACLU на эту тему было провокационно озаглавлено «Это Программное обеспечение для наблюдения, вероятно, шпионит за #BlackLivesMatter
», Хотя существует мало доказательств того, что это так.
И, конечно же, вся информация, извлекаемая компанией Beware, «коммерчески доступна». Именно то, что это означает, трудно кому-либо узнать, поскольку типы данных, которые продают социальные сети, постоянно меняются. Как мы видели в прошлом, несложно получить информацию, которую пользователь считает конфиденциальной
просто задавая правильные вопросы и используя правильные инструменты.
Я бы не был первым, кто связал бы Beware и другие решения по мониторингу в социальных сетях с докриминацией Доклада меньшинств или мнимым преступлением 1984 года.
Сложность программного обеспечения, такого как Beware, подходит к тому моменту, когда оно может сделать выводы на основе того, что вы не говорите, а только подразумеваете. Intrado и другие производители не хотят, чтобы их программное обеспечение было связано с антиутопическими фантастическими романами, но связь очевидна.
Уроки выучены
Если вы беспокоитесь о возможных нарушениях конфиденциальности, вызванных программным обеспечением для мониторинга социальных сетей в руках правоохранительных органов или нет, это должно служить напоминанием о том, что то, что вы размещаете в Facebook или Twitter, не просто доступно вашим друзьям. Он существует вечно и, вероятно, находится в руках самых разных людей и компаний.
Лучшее, что вы можете сделать, это не публиковать глупости в социальных сетях. Не шутите о том, чтобы сделать что-то незаконное. Не защищайте насилие против полиции или военных. Не публикуйте свои фотографии, которые могут быть истолкованы как угрожающие (особенно с оружием — просто не публикуйте свои фотографии с оружием). Во многом это здравый смысл, но Фресно и их использование Beware должны подчеркнуть важность этих видов защитных мер.
Это также важный вопрос, который нужно учитывать перед предстоящими президентскими выборами в США.
(где социальные медиа также чрезвычайно важный инструмент
, что интересно). Эта проблема вполне может прийти в голову вскоре после того, как новый президент будет приведен к присяге, и то, как она оттуда отстранится, может зависеть от того, кто сидит в Овальном кабинете. Сейчас это может показаться незначительной проблемой, но в ближайшем будущем это может стать очень серьезной проблемой. Стоит следить.
Что вы думаете о полицейских департаментах, осуществляющих мониторинг социальных сетей? Считаете ли вы, что они оправданы в использовании алгоритмического подхода? Или вы думаете, что это может привести к расовому профилированию и неточным суждениям? Должны ли мы беспокоиться о прогрессе такого рода программного обеспечения?
Это сложный вопрос, и я даже не совсем уверен, что я чувствую по этому поводу. Он оставляет слишком много в руках алгоритма, который отслеживает людей без их ведома. Но это также могло бы помочь спасти жизни офицеров, оказавшихся в опасных ситуациях. Помогите мне разобраться в комментариях ниже.
Авторы изображений: Скотт Корнелл через Shutterstock.com, Ивелин Радьков через Shutterstock.com.