Работа из серии «Подконтрольная жизнь» итальянской современной художницы Фабиан Альбертини, выполненная в Копенгагене, Дания, в 2018 г.
Журнальный клуб Интелрос » Курьер ЮНЕСКО » №3, 2019
Искусственный интеллект (ИИ) все шире применяется для решения двух острейших проблем сегодняшнего дня: фальшивые (фейковые) новости и вторжение в частную жизнь. Компания Factmata использует его для борьбы с дезинформацией, а компания D-ID – для защиты от систем распознавания лиц. Обе они вошли в десятку лауреатов форума инноваций Netexplo-2019, награды которым были вручены в апреле этого года в штаб-квартире ЮНЕСКО.
Дхрув Гулати, директор и соучредитель лондонского стартапа Factmata, и Гил Перри, директор и соучредитель компании D-ID, офисы которой находятся в Тель-Авиве (Израиль) и Пало-Альто (Калифорния, США), рассказали «Курьеру ЮНЕСКО» о своих инновационных разработках.
Беседу провела Шираз Сидхва
Что побудило вас создать стартап в сфере ИИ, нацеленный на борьбу с дезинформацией? Ведь это титаническая задача, подобная борьбе с коррупцией?
Это действительно дело нелегкое. Но уж если вы хотите не просто основать свою компанию, а изменить мир, то ставку надо делать на разработку такой технологии, которая, если у вас все получится, станет настоящим прорывом и коснется каждого человека. В Factmata мы при помощи ИИ и сообщества специалистов разрабатываем так называемые объяснимые алгоритмы, которые, мы надеемся, помогут решить проблему дезинформации в интернете и построить медийную экосистему лучшего качества.
Рейтинговая система Factmata способна обрабатывать любой находящийся в сети контент, анализировать его и давать ему оценку по девяти критериям, включая наличие ненавистнических, стских и политически ангажированных высказываний. Цель такой оценки – дать пользователям точное представление о качестве, безопасности и достоверности представленной информации. Мы сотрудничаем с собственной сетью экспертов, наиболее подходящих для оценки каждого типа контента, и потому наши рейтинги беспристрастны и прозрачны.
Мы хотим создать новую универсальную систему оценки качества онлайн-контента, которую можно будет использовать на рекламных биржах (цифровых платформах для купли-продажи рекламного места на сайтах), в браузерах, поисковых системах, социальных сетях и т. д. Благодаря этому рейтинг содержательных журналистских материалов будет выше и они будут лучше оплачиваться, а недостоверный и бесполезный контент будет отметаться.
В чем отличие Factmata от уже существующих программ, к примеру той, что использует Facebook?
Потенциально наша технология может давать более точные результаты за счет того, что для обучения системы мы используем не открытые источники информации, доступные любому пользователю, а эксклюзивные данные, получаемые нами благодаря сотрудничеству с сообществами экспертов. Сбор, хранение и обработка этих уникальных данных – процесс очень сложный и времязатратный. В этой связи мы нашли менее дорогостоящий и более результативный способ получения данных, непосредственно привлекая к этому пользователей.
Кто ваши основные пользователи?
Прежде всего, это обычные люди, которым интересно проверить собственную способность к критическому мышлению при помощи наших инструментов. Во-вторых, это органы власти и компании, желающие получить эффективный способ для выявления людей, распространяющих недостоверную информацию, которая либо опасна для общества, либо способна навредить при выводе на рынок нового продукта или проведении рекламной кампании.
Как вы считаете, что в борьбе с фальшивыми новостями эффективнее, искусственный интеллект или человеческий?
Безусловно, сам по себе человеческий интеллект эффективнее. Однако у алгоритмов есть преимущество: они могут одновременно работать на большом числе компьютеров и обрабатывать тонны информации в секунду, выявляя фейковые новости. Чтобы просмотреть такой же объем контента, потребуются целые армии людей, которым к тому же нужно время на отдых. Поэтому решение проблемы в том, чтобы использовать и человеческие ресурсы, и искусственный интеллект.
Могут ли хакеры и распространители таких новостей перехитрить ИИ?
Они наверняка будут пытаться это делать. Наша цель – максимально усложнить им задачу. Мошенников, способных перехитрить систему, не так много, поэтому система, функционирование которой со временем улучшается, довольно быстро берет верх. Так мы уже решили проблему спама и даже большую часть проблем кибербезопасности.
Сейчас для нас главное – получить достаточно финансирования, чтобы продержаться период, необходимый для разработки базовой технологии и привлечения клиентуры, за счет которой мы сможем существовать в будущем. Уверен, наши усилия в конечном итоге окупятся и мы добьемся успеха там, где большинство людей сдались бы на полпути.
---------------------------------------------------------------------------------------------------------------------
Вы ветеран элитного подразделения 8200 радиоэлектронной разведки Армии обороны Израиля. Как вы пришли к созданию программы, защищающей от систем распознавания лиц?
Идея возникла, когда я служил в армии. Мы были очень хорошо осведомлены об угрозе, которую технологии распознавания лиц могут представлять для конфиденциальности и защиты персональных данных. По этой причине нам не позволяли размещать свои фотографии в социальных сетях. Отслужив в армии, я решил лучше разобраться в этом вопросе. Изучил компьютерное зрение и обработку изображений, несколько лет проработал в этой отрасли. Около двух с половиной лет назад я познакомился с Селлой Блондхайм и Элираном Кота. Вместе с ними мы учредили D-ID и занялись написанием одного из сложнейших из всех существующих алгоритмов защиты фотографий от систем распознавания лиц. Этот алгоритм и лег в основу технологии D-ID.
Сегодня наши лица стали нашими паролями. Но поскольку мы не можем менять их с той же легкостью, приходится их защищать. Мы разработали технологию на базе искусственного интеллекта, при помощи которой в изображение лица вносятся изменения, невидимые для человеческого глаза, но достаточные для того, чтобы алгоритм уже не мог его распознать. Благодаря этому можно спокойно хранить свои фотографии и видео, делиться ими с друзьями и использовать как вам заблагорассудится, не опасаясь, что кто-то присвоит ваши изображения, идентифицирует их посредством механизмов распознавания лиц и использует в своих целях.
Почему приходится защищать себя от распознавания и что может случиться, если этого не делать?
Во-первых, технология распознавания лиц внедряется повсеместно, этот рынок процветает. Во-вторых, мы окружены камерами. Видеонаблюдение ведется повсюду: на улице, в магазинах, в поездах... Потом, сейчас все пользуются смартфонами, с помощью которых мы делаем фотографии и видеозаписи. И наконец, наши фотографии имеются в очень многих местах: социальных сетях, на серверах наших компаний, в государственных базах данных и т. д. Это означает, что любой человек может нас увидеть, проследить за нами и присвоить себе нашу личность.
Технологию распознавания лиц можно использовать для отслеживания поведения людей или проверки, нет ли среди вашего окружения банковских должников. В некоторых странах вы можете сфотографировать человека на улице и на основе одной только фотографии узнать мельчайшие детали его жизни. Известно, что эти технологии уже использовались для преследования меньшинств и протестующих. В США и ряде других стран распознавание лиц применяется для того, чтобы узнать возраст, пол, этническое происхождение покупателя, уровень его удовлетворения от обслуживания и многое другое.
Короче говоря, вопрос неприкосновенности частной жизни должен волновать всех нас. И D-ID предлагает на него ответ.
Эксклюзивный алгоритм D-ID из абсолютно любой фотографии синтезирует защищенное изображение. Это чрезвычайно сложный процесс, и мы думаем, что в настоящее время мы единственные, кто может это делать. В основе нашего алгоритма лежат самые современные технологии обработки изображений и методы глубокого обучения (позволяющие машинам самостоятельно распознавать такие сложные объекты, как лица).
Могут ли возникнуть проблемы с государственными службами, широко использующими эту технологию?
Нет, не думаю. Напротив, местные власти и законодательные органы стремятся усилить защиту неприкосновенности частной жизни, что соответствует нашим представлениям.
Кто ваши основные клиенты? Люди, которые хотят защитить свою личность?
Сейчас мы продаем свою технологию главным образом компаниям. Они используют ее для защиты изображений своих руководителей и сотрудников, а также баз данных изображений их клиентов.
К нашей целевой аудитории относятся и школы: с этой технологией учителя и учащиеся могут размещать в интернете и посылать друзьям защищенные изображения. Мы надеемся, что постепенно сможем предлагать D-ID всем, создав решения для смартфонов и фотоаппаратов с тем, чтобы сделанные с их помощью изображения были деидентифицированы – то есть чтобы было невозможно их идентифицировать – с самого момента их создания.
Фото: Fabian Albertini
