Компания Cellebrite, производящая практически повсеместную технологию взлома телефонов и криминалистической экспертизы, используемую полицейскими по всему миру, внедрила в свои продукты возможности искусственного интеллекта, включая обобщение журналов чатов или аудиосообщений с изъятых мобильных телефонов, говорится в заявлении компании, опубликованном в прошлом месяце.
Внедрение искусственного интеллекта в инструмент, который, по сути, определяет, как анализируются улики против обвиняемых, уже вызывает беспокойство у экспертов по гражданским свободам.
«Когда вы получаете результаты от ИИ, они непрозрачны. Часто вы не можете проследить, откуда взялся тот или иной вывод или на какой информации он основан. ИИ галлюцинирует. Если вы всегда будете обучать его на данных из дел, где есть обвинительные приговоры, он никогда не поймет, в каких случаях обвинительные заключения не должны предъявляться», - заявила 404 Media по электронной почте Дженнифер Граник, советник по вопросам наблюдения и кибербезопасности в проекте Американского союза гражданских свобод (ACLU) „Речь, конфиденциальность и технологии“.
Продукция Cellebrite очень распространена в местных, государственных и федеральных правоохранительных органах США, а также в правоохранительных органах других стран. К таким продуктам относится UFED - устройство, которое обходит защиту пароля на некоторых телефонах и извлекает из них данные. 404 Media ранее проверил утечку документов, которые показали, какие телефоны Cellebrite сможет разблокировать, а какие нет, по состоянию на апрель 2024 года. По словам компании, Cellebrite внедрила искусственный интеллект в Guardian, который представляет собой программное обеспечение как услугу «решение для управления доказательствами». С практической точки зрения Guardian - это программное обеспечение для анализа улик, уже находящихся в распоряжении полицейского.
Согласно анонсу Cellebrite от 6 февраля, генеративные возможности ИИ компании могут обобщать темы чата, «чтобы помочь определить приоритеты, которые могут быть наиболее важными», контекстуализировать историю просмотра веб-страниц, чтобы показать, что искали, и построить «понимание отношений».
В анонсе приводится цитата сержанта-детектив Аарона Османа из полицейского управления города Саскуэханна, штат Пенсильвания, который, по словам представителей Cellebrite, опробовал возможности ИИ. «Невозможно подсчитать, сколько часов потребовалось бы, чтобы связать серию краж посылок из крыльца с международной организованной преступной группировкой», - говорит он. «Возможности GenAI в Guardian помогли нам перевести и обобщить чаты между подозреваемыми, что позволило нам сразу же понять, с какой крупной преступной сетью мы имели дело».
Отвечая конкретно на этот случай, представитель ACLU Граник сказал: «Четвертая поправка не позволяет правоохранительным органам рыться в данных, а только проверять информацию, для которой есть достаточные основания. Если у вас есть несколько случаев ограбления крыльца, но нет оснований подозревать, что они являются частью преступной группировки, вы не имеете права рыться в данных по наитию, в надежде что-то найти или «на всякий случай». В ряде дел мы выступали за ограничение времени и категории данных при обыске, и ряд судов постановил, что эти ограничения необходимы при обыске мобильного телефона, компьютера или аккаунта в социальных сетях».
Граник добавил: «Может возникнуть тенденция считать, что инструмент искусственного интеллекта успешно выявит закономерности преступного поведения, которые не смог бы выявить человек. Компания получает вознаграждение за обнаружение закономерностей; полиция говорит, что инструмент полезен. Но в массиве данных любого размера всегда можно найти закономерность, даже если эта закономерность неполная, вводящая в заблуждение или ложная. Все, что вам нужно сделать, - это игнорировать другую информацию».
Виктор Купер, старший директор по глобальным корпоративным коммуникациям Cellebrite, сообщил 404 Media по электронной почте, что «Gen-AI - это прежде всего достижение большего с меньшими затратами. Наши соответствующие возможности Gen-AI призваны повысить производительность и значительно снизить бремя ручного труда. Мы гарантируем, что все результаты Gen-AI четко обозначены, что позволяет пользователям отследить исходные данные, которые появились в качестве индикатора. Кроме того, всегда есть человек в контуре (HITL), который может просмотреть, принять или проигнорировать предложения, сгенерированные ИИ. Каждый отчет, который мы готовим, основывается на надежных доказательствах».
«Хотя мы обеспечиваем эффективность, пользователь обязан тщательно проверять любые предложения или показатели, генерируемые ИИ, чтобы избежать галлюцинаций или неполных результатов. Такие термины, как «частичный» или «неполный», могут в равной степени относиться к сценариям, в которых следователи без помощи ИИ не могут изучить все потенциальные доказательства. Наши инструменты Gen-AI предназначены для автоматизации некоторых ручных задач, но они не освобождают пользователей от ответственности за то, чтобы основывать выводы на веских доказательствах и стремиться к тщательности и полноте в своей работе», - добавил он.
Недавно анонсированные возможности Cellebrite в чем-то схожи с Draft One, инструментом от гиганта подрядных организаций Axon. Draft One использует технологию OpenAI для автоматического создания полицейских отчетов на основе аудиозаписей с камер наблюдения. В демонстрационных видеороликах Axon также подчеркивает, что офицеры должны вычитывать любой результат, полученный с помощью Draft One.
source: https://www.404media.co/cellebrite-...hat-logs-and-audio-from-seized-mobile-phones/
Внедрение искусственного интеллекта в инструмент, который, по сути, определяет, как анализируются улики против обвиняемых, уже вызывает беспокойство у экспертов по гражданским свободам.
«Когда вы получаете результаты от ИИ, они непрозрачны. Часто вы не можете проследить, откуда взялся тот или иной вывод или на какой информации он основан. ИИ галлюцинирует. Если вы всегда будете обучать его на данных из дел, где есть обвинительные приговоры, он никогда не поймет, в каких случаях обвинительные заключения не должны предъявляться», - заявила 404 Media по электронной почте Дженнифер Граник, советник по вопросам наблюдения и кибербезопасности в проекте Американского союза гражданских свобод (ACLU) „Речь, конфиденциальность и технологии“.
Продукция Cellebrite очень распространена в местных, государственных и федеральных правоохранительных органах США, а также в правоохранительных органах других стран. К таким продуктам относится UFED - устройство, которое обходит защиту пароля на некоторых телефонах и извлекает из них данные. 404 Media ранее проверил утечку документов, которые показали, какие телефоны Cellebrite сможет разблокировать, а какие нет, по состоянию на апрель 2024 года. По словам компании, Cellebrite внедрила искусственный интеллект в Guardian, который представляет собой программное обеспечение как услугу «решение для управления доказательствами». С практической точки зрения Guardian - это программное обеспечение для анализа улик, уже находящихся в распоряжении полицейского.
Согласно анонсу Cellebrite от 6 февраля, генеративные возможности ИИ компании могут обобщать темы чата, «чтобы помочь определить приоритеты, которые могут быть наиболее важными», контекстуализировать историю просмотра веб-страниц, чтобы показать, что искали, и построить «понимание отношений».
В анонсе приводится цитата сержанта-детектив Аарона Османа из полицейского управления города Саскуэханна, штат Пенсильвания, который, по словам представителей Cellebrite, опробовал возможности ИИ. «Невозможно подсчитать, сколько часов потребовалось бы, чтобы связать серию краж посылок из крыльца с международной организованной преступной группировкой», - говорит он. «Возможности GenAI в Guardian помогли нам перевести и обобщить чаты между подозреваемыми, что позволило нам сразу же понять, с какой крупной преступной сетью мы имели дело».
Отвечая конкретно на этот случай, представитель ACLU Граник сказал: «Четвертая поправка не позволяет правоохранительным органам рыться в данных, а только проверять информацию, для которой есть достаточные основания. Если у вас есть несколько случаев ограбления крыльца, но нет оснований подозревать, что они являются частью преступной группировки, вы не имеете права рыться в данных по наитию, в надежде что-то найти или «на всякий случай». В ряде дел мы выступали за ограничение времени и категории данных при обыске, и ряд судов постановил, что эти ограничения необходимы при обыске мобильного телефона, компьютера или аккаунта в социальных сетях».
Граник добавил: «Может возникнуть тенденция считать, что инструмент искусственного интеллекта успешно выявит закономерности преступного поведения, которые не смог бы выявить человек. Компания получает вознаграждение за обнаружение закономерностей; полиция говорит, что инструмент полезен. Но в массиве данных любого размера всегда можно найти закономерность, даже если эта закономерность неполная, вводящая в заблуждение или ложная. Все, что вам нужно сделать, - это игнорировать другую информацию».
Виктор Купер, старший директор по глобальным корпоративным коммуникациям Cellebrite, сообщил 404 Media по электронной почте, что «Gen-AI - это прежде всего достижение большего с меньшими затратами. Наши соответствующие возможности Gen-AI призваны повысить производительность и значительно снизить бремя ручного труда. Мы гарантируем, что все результаты Gen-AI четко обозначены, что позволяет пользователям отследить исходные данные, которые появились в качестве индикатора. Кроме того, всегда есть человек в контуре (HITL), который может просмотреть, принять или проигнорировать предложения, сгенерированные ИИ. Каждый отчет, который мы готовим, основывается на надежных доказательствах».
«Хотя мы обеспечиваем эффективность, пользователь обязан тщательно проверять любые предложения или показатели, генерируемые ИИ, чтобы избежать галлюцинаций или неполных результатов. Такие термины, как «частичный» или «неполный», могут в равной степени относиться к сценариям, в которых следователи без помощи ИИ не могут изучить все потенциальные доказательства. Наши инструменты Gen-AI предназначены для автоматизации некоторых ручных задач, но они не освобождают пользователей от ответственности за то, чтобы основывать выводы на веских доказательствах и стремиться к тщательности и полноте в своей работе», - добавил он.
Недавно анонсированные возможности Cellebrite в чем-то схожи с Draft One, инструментом от гиганта подрядных организаций Axon. Draft One использует технологию OpenAI для автоматического создания полицейских отчетов на основе аудиозаписей с камер наблюдения. В демонстрационных видеороликах Axon также подчеркивает, что офицеры должны вычитывать любой результат, полученный с помощью Draft One.
source: https://www.404media.co/cellebrite-...hat-logs-and-audio-from-seized-mobile-phones/