В течение последних нескольких месяцев Би-би-си исследует темный, скрытый мир – мир, в котором в конечном итоге окажется самый худший, самый ужасный, удручающий и во многих случаях незаконный онлайн-контакт.
Обезглавливание, массовые убийства, жестокое обращение с детьми, ненавистнические высказывания – все это заканчивается в коробках глобальной армии модераторов контента.
Вы не часто видите или слышите от них – но это люди, чья работа должна пересматриваться, а затем, когда это необходимо, удалять контент, который либо сообщается другими пользователями, либо автоматически маркируется техническими инструментами.
Проблема безопасности в Интернете приобретает все большее значение, при этом на технологические фирмы оказывается все большее давление, с тем чтобы они могли быстро удалять вредные материалы.
И несмотря на много исследований и инвестиций, направляемых на технические решения, чтобы помочь, в конечном счете, пока что, он все еще в значительной степени по-человечески ведущие, у которых есть последнее слово.
Ведущие часто работают в компаниях третьих сторон, но они работают над контентом, размещенным непосредственно в крупных социальных сетях, включая Instagram, TikTok и Facebook.
Они базируются по всему миру.
Люди, с которыми я разговаривал при подготовке нашей серии "Ведущий радио 4" и "Би-би-си Зудис", в основном жили в Восточной Африке, и с тех пор все они покинули индустрию.
Их истории были ужасными.
Кое-что из того, что мы записали, было слишком жестоко для передачи.
Иногда мой продюсер Том Вулфенден и я заканчивали запись и просто сидели в тишине.
Если ты возьмешь телефон и поедешь в Тикток, ты увидишь много занятий, танцев, ну, знаешь, счастливых вещей, - говорит Мохез, бывший координатор из Найроби, который работал над содержанием TikTok.
▪ Но на заднем плане, я лично сдерживал, в сотнях ужасных и травмирующих видео.
- Я взял это на себя.
Позволь моему психическому здоровью взять удар, чтобы общие пользователи могли продолжать свою деятельность на платформе. В настоящее время существует множество юридических утверждений о том, что эта работа разрушила психическое здоровье таких ведущих.
Некоторые из бывших рабочих в Восточной Африке объединились, чтобы создать союз.
*Правда, единственное, что между мной и моими записями на платформе соцсетей и просмотром обезглавливания, это то, что кто-то сидит где-то в офисе, и смотрит это содержание для меня, и просматривает его, так что мне не нужно,* — говорит Марта Тёмная, которая управляет "Фоксгловом", группой, поддерживающей судебный иск.
В 2020 году Мета, тогда известная как Facebook, согласилась оплатить сумму в размере 52 млн. долл. (40 млн. фунтов стерлингов) координаторам, у которых возникли проблемы с психическим здоровьем из-за их работы.
Судебный иск был возбужден бывшим посредником в США по имени Селена Скола.
Она описала ведущих как хранителей душ, из-за количества видеозаписей, которые они видят с указанием последних моментов жизни людей.
Бывшие руководители, с которыми я разговаривал, использовали слово "истраума", описывая воздействие работы на них.
Некоторым было трудно спать и есть.
Один из них рассказал о том, как плач ребенка вызвал у коллегу панику.
Другой сказал, что ему трудно общаться со своей женой и детьми из-за жестокого обращения с детьми, свидетелями которого он был.
Я ожидал, что они скажут, что эта работа настолько эмоциональна и утомительна, что ни один человек не должен делать это – я думал, что они полностью поддержат всю индустрию, которая станет автоматизированной, и инструменты АИ будут развиваться, чтобы расширить свою деятельность.
Но они этого не сделали.
Что было очень мощно, так это огромная гордость ведущих за ту роль, которую они сыграли в защите мира от вреда в интернете.
Они рассматривали себя как жизненно важную экстренную службу.
Говорят, он хотел форму и значок, сравнивая себя с парамедиком или пожарным.
▪ Ни одной секунды не было потрачено впустую, — говорит кто-то, кого мы звали Дэвидом.
Он попросил остаться анонимным, но он работал над материалами, которые использовались для обучения вирусного чатбота AI ChatGPT, с тем чтобы он не был запрограммирован на регугитацию ужасных материалов.
Я горжусь людьми, которые обучали эту модель тому, что она есть сегодня.
Дэйв Уилнер был бывшим главой доверия и безопасности в OpenAI, создателем ChatGPT.
Он говорит, что его команда создала примитивный инструмент умеренности, основанный на технологии чатботс, который смог выявить вредное содержание с точностью около 90%.
Когда я вроде как поняла: "О, это сработает", я честно задохнулась немного, - говорит он.
Не скучай.
И они не устают и не шокируются...
Однако не все уверены в том, что ИИ является серебряной пулей для проблемного сектора умеренности.
По мнению доктора Пола Райли, старший преподаватель средств массовой информации и демократии в Глазгоском университете.
никчемный IA может быть довольно тупым, двоичным способом регулирования содержания.
▪ Это может привести к чрезмерному блокированию вопросов свободы слова, и, конечно же, ему может не хватать нюансов, которые могли бы идентифицировать люди-ведущие.
Человеческая умеренность крайне важна для платформ, он добавляет.
Проблема в том, что их недостаточно, и работа невероятно вредна для тех, кто это делает. Мы также обратились к техническим компаниям, упомянутым в серии.
Представитель компании " ТикТок " говорит, что фирма знает, что умеренность содержания - это не простая задача, и она стремится содействовать созданию условий для ухода за работниками.
Это включает в себя оказание клинической поддержки и разработку программ, которые поддерживают благополучие ведущих.
Они добавляют, что видео сначала проверяются автоматизированными технологиями, которые, по их словам, удаляют большой объем вредного контента.
Тем временем, Open AI - компания, стоящая за Chat GPT - говорит, что она признательна за важную и порой трудную работу, которую делают рабочие, чтобы обучить IA записывать такие фотографии и видео.
Представитель добавил, что совместно со своими партнерами " Открытая МА " проводит политику по защите благосостояния этих групп.
И Мета, которая владеет Instagram и Facebook, говорит, что она требует, чтобы все компании, с которыми она работает, оказывали круглосуточную поддержку на местах квалифицированным специалистам.
В нем также говорится, что ведущие могут адаптировать свои инструменты обзора для размывания графического контента.
Ведущие находятся на радио BBC 4 в 13:45 GMT, с понедельника, 11 ноября, по пятницу, 15 ноября, и на BBC Sounds.