Распознавание и анализ разговоров

[dastapov]

В продолжение вчерашней дискуссии.

Допустим, мы как-то распознаем разговоры и сохраняем получившийся текст. Я намерено не хочу сейчас касаться ни качества "аудио", которое придется распознавать, ни качества получающегося в результате текста. Пусть даже тут у нас все будет идеально.

Расскажите мне пожалуйста, что с этими текстами делать потом? (напомню, что мы говорим про Кровавый Режим, который надеется получить с этого какой-то профит).

Суммируя вчерашние аргументы, были названы такие цели:
1)использовать тексты для бинарной классификации (террорист - не террорист, протестующий - не протестующий)
2)использовать тексты для последующего полнотекстового поиска (с целью той же бинарной классификации, но без четких критериев)
3)складировать тексты про запас с тем, чтобы потом читать про тех, кто "попал на карандаш".

Мне кажется, что для всех трех целей запись и распознавание всех разговоров будут ужасно неэффективным средством. По пунктам:

Классификация
=============
Как учить такой классификатор? Откуда взять training set тех самых true positive целевых разговоров достаточного объема?

У классификатора будут ужасные precision и recall - что с этим делать? Поясню: классы будут сильно перекошены по размеру (1 террорист на пару миллионов обычных людей), соответственно, любые неточности классификации в сумме с false positives приведут к тому, что классификатор будет практически бесполезен. Допустим, мы с вероятностью в 30% не узнаем нужный единственный разговор из миллиона, зато с вероятностью 0.01% тыкаем пальцем в ненужный - посчитайте сами, что мы получим на выходе.

Кроме того, критерии классификации - не фиксированы (сегодня ищем "химию", завтра - "болотную"), соответственно, надо постоянно создавать и учить новые классификаторы. Это сложно и вычислительно и организационно (выбор хороших критериев).

Использовать же unsupervised методы, как мне кажесят, не получится из-за размерности простанства. Грубо говоря - у нас слишком много всех возможных слов и разговоров, чтобы какой-то unsupervised алгоритм это прошерстил. Да и на выходе мы получим слишком много классов, которые потом надо будет обработать вручную. Добавим к этому, что почти наверняка нужный "один разговор из миллиона" будет объединен в один класс с мешком других, и получаем на выходе один пшик.


Полнотекстовый поиск
====================

Учитывая, что целевая аудитория (гипотетические "террористы") шифруется, поиск надо будет вести по неуникальным, "бытовым" словам. Любой желающий может поиграть с гуглом и поскать "террористов" там, и увидеть, насколько это безнадежная затея.

Читать постфактум
=================

Казалось бы, какие тут могут быть возражения - бери и читай? Но для начала надо сгруппировать разговоры "по людям", то есть вместо "это разговор между номерами А и Б" получить "это разговор между Ивановым и Петровым", и потом уже читать все разговоры Иванова. При это _надо_ исходить из предположения, что владелец контракта и тот, кто реально говорит по телефону - это могут быть разные люди. Я верю, что подобная задача решается в условиях ограниченного количества людей и аудиозаписей, но для всех-всех-всех разговоров - нереально.

Итого
=====

Вагон затрат (особенно временных), минимальный (неотличимый от нуля) выхлоп. Если бы было социально приемлемо прослушивать всех подряд, из этого вышел бы хороший PR-проект (или, иначе, security theatre) - смотрите, мол, как у нас граница на замке. Ни одна мышь не проскочет - у нас этажи сервером и кубометры винчестеров, всех поймаем. Делать же это втайне, надеясь получить какой-то результат - глупо.

Discuss?

Comments

[http://users.livejournal.com/_adept_/]

Слово "элементарно" и "автоматически" тут можно оставить только при условии, что все живут в сети одного оператора и симку нельзя купить без паспорта (за пределами России есть жизнь, ага).

Если же абоненты у разных операторов ...

Как-то раз оператор А думал вычислить тех абонентов оператора Б, которые часто звонят одним и тем же абонентам оператора А. Чтобы, значит, сделать им выгодное предложение и переманить.

И у него ничего не вышло.

Как вы думаете, почему?

[norguhtar.livejournal.com]

И почему же? Аналитика заняла слишком много времени?

[http://users.livejournal.com/_adept_/]

Потому что сети связи, сцуко, опасные :)

И номер звонящего абонента может быть ... странным, если он едет через какую-то транзитную сеть, и там его ... творчески обрабатывают.

Но самой большой проблемой был выбор нормального критерия определения того, что вот это вот - искомый абонент.

Была сделана ручная выборка тех, кто должен быть хорошим кандидатом (выбирали среди друзей-знакомых-родственников сотрудников оператора А). Тесты показали, что выбрать критерий, который надежно "вылавливает" их всех и при этом работает с приемлемой скоростью (напрмер, за несколько дней) не представляется возможным.

[http://users.livejournal.com/_adept_/]

1)Я купил симку в англии без прописки. Что я делаю не так? Даже, точнее, получил даром. Еще и следом бежали и уговаривали взять вторую. Таким тут занимаются все, кому не лень (это не один оператор такой)

У вас какие-то странные представления о мобильной связи.

2)Они не хотели звонить всем подряд. Им нужны были _телефоны_ (не адреса) тех, кому имеет смысл звонить. Потому как иначе (как бы в это не было сложно поверить) соотношение усилия/результат такие, что лучше не начинать

[http://users.livejournal.com/_adept_/]

1)Тарифы выше в разы? Нет, не видел.

https://www.vectonemobile.co.uk/pay-as-you-go/vm-rates/standard/national-rates.aspx

Давайте, покажите мне контракт с ценами на _порядок_ ниже.

У меня получается 10 фунтов в месяц, из них 5 - интерент (безлимитный пакет). А сколько получается у вас? Какой у вас оператор? Неужели укладываетесь в 1 фунт в месяц?

2)Спорю, что вы попадали под "ковровую бомбардировку". В зависимости от ситуации на конкретном рынке, за такое могут "набить морду".

[http://users.livejournal.com/_adept_/]

Тут весь "безлимитный интернет" такой, что поделать. Я знаю ровно двух провайдеров (из где-то 15) которые дают реальный безлимит, но только по ADSL. Соответственно этот константный фактор можно вынести за скобки.

Касательно интернета - там слева есть "Internet bundles", надо смотреть туда. 5 фунтов в месяц за тот же гиг. Опять же, стандартная практика - casual users платят больше, а кому критично - покупают bundle.

Вы лучше найдите мне контракт по цене на порядок дешевле, как обещано.

[http://users.livejournal.com/_adept_/]

Подскажите, когда мы с мобильной связи (звонки, смс) съехали исключительно на интернет?

[http://users.livejournal.com/_adept_/]

Насчет "в среднем дешевле" по-прежнему не уверен - я, напрмер, сменил три постпейда, прежде чем выбрал этот припейд, и он сильно дешевле для моих usage patterns.

Напомню, что начали мы с "препейд без паспорта не купишь, и с него выгоняют рублем - он на порядок дороже, соответственно _все_ сидят на постпейде". Вот с этим я не согласен. Будете дальше отрицать? :)

Особенно часть про пасспорт.

[http://users.livejournal.com/_adept_/]

Вы мобильной связью никогда не занимались (сейчас это уже очевидно), и вы совершенно не представляете себе разделение рынка между препейдом и постпейдом и темпы роста обоих сегментов.

Ваши знакомые-друзья (в кол-ве хорошо если 50 человек) совсем не показатель.

Давайте уже завязывать рассказывать о вкусе апельсинов, которых вы не ели.

[knyar.livejournal.com]

Я только за последние полгода без паспорта покупал sim-карточки в Великобритании, Ирландии, Таиланде и Малайзии. В прошлом аналогично покупал в Америке, например. Единственные страны, где при покупке sim-карточек пришлось показывать паспорт — Китай и Беларусь. И то, естественно, никакого гражданства или вида на жительство с меня не потребовали.

Да, возможно тарифы pre-paid чуть дороже контракта. Однако, мобильная связь сейчас стоит так невероятно дёшево, так что этим вполне можно пренебречь.

Re: Скажу за Латвию

[nponeccop.livejournal.com]

В Нигерии тоже требуют док-ты за припейд, и тоже пару лет как.

Re: Скажу за Латвию

[proforg.livejournal.com]

но никто не мешает купить карточку с рук на рынке, например

Re: Скажу за Латвию

[proforg.livejournal.com]

ну с ними и 10 лет назад собирались бороться, но вот как то так и не поборолись.
при этом в соседней португалии - карточки продаются без всяких документов.
ну и про литву / латвию / этонию и многие страны ЮВА уже написали, как впрочем и про то что анонимный препейд симки часто оказываются вполне себе выгодными для постоянного использования.

Re: Скажу за Латвию

[http://users.livejournal.com/_adept_/]

Я думаю, что вы очень отдаленно представляете себе вычислительную сложность определения того, поменялся ли "профиль разговора" или нет с качеством, допускающим практическое применение (да-да, я опять про false positives и прочие нудные вещи).

[http://users.livejournal.com/_adept_/]

Вы опять начинаете передергивать. Начиналось все с того, что жители страны (не туристы) не сидят на препейде, т.к. с них требуют паспорт и это безумно дорого, и поэтому их _звонки_ будет очень легко идентифицировать.

Вам показали, что это не так, и теперь вы уводите разговор куда-то в сторону.нном.