Я сдерживал сотни ужасных и травмирующих видео

13/11/2024 15:18

В течение последних нескольких месяцев Би-би-си исследует темный, скрытый мир – мир, в котором в конечном итоге окажется самый худший, самый ужасный, удручающий и во многих случаях незаконный онлайн-контакт.
Обезглавливание, массовые убийства, жестокое обращение с детьми, ненавистнические высказывания – все это заканчивается в коробках глобальной армии модераторов контента.
Вы не часто видите или слышите от них – но это люди, чья работа должна пересматриваться, а затем, когда это необходимо, удалять контент, который либо сообщается другими пользователями, либо автоматически маркируется техническими инструментами.
Проблема безопасности в Интернете приобретает все большее значение, при этом на технологические фирмы оказывается все большее давление, с тем чтобы они могли быстро удалять вредные материалы.
И несмотря на много исследований и инвестиций, направляемых на технические решения, чтобы помочь, в конечном счете, пока что, он все еще в значительной степени по-человечески ведущие, у которых есть последнее слово.
Ведущие часто работают в компаниях третьих сторон, но они работают над контентом, размещенным непосредственно в крупных социальных сетях, включая Instagram, TikTok и Facebook.
Они базируются по всему миру.
Люди, с которыми я разговаривал при подготовке нашей серии "Ведущий радио 4" и "Би-би-си Зудис", в основном жили в Восточной Африке, и с тех пор все они покинули индустрию.
Их истории были ужасными.
Кое-что из того, что мы записали, было слишком жестоко для передачи.
Иногда мой продюсер Том Вулфенден и я заканчивали запись и просто сидели в тишине.
Если ты возьмешь телефон и поедешь в Тикток, ты увидишь много занятий, танцев, ну, знаешь, счастливых вещей, - говорит Мохез, бывший координатор из Найроби, который работал над содержанием TikTok.
▪ Но на заднем плане, я лично сдерживал, в сотнях ужасных и травмирующих видео.
- Я взял это на себя.
Позволь моему психическому здоровью взять удар, чтобы общие пользователи могли продолжать свою деятельность на платформе. В настоящее время существует множество юридических утверждений о том, что эта работа разрушила психическое здоровье таких ведущих.
Некоторые из бывших рабочих в Восточной Африке объединились, чтобы создать союз.
*Правда, единственное, что между мной и моими записями на платформе соцсетей и просмотром обезглавливания, это то, что кто-то сидит где-то в офисе, и смотрит это содержание для меня, и просматривает его, так что мне не нужно,* — говорит Марта Тёмная, которая управляет "Фоксгловом", группой, поддерживающей судебный иск.
В 2020 году Мета, тогда известная как Facebook, согласилась оплатить сумму в размере 52 млн. долл. (40 млн. фунтов стерлингов) координаторам, у которых возникли проблемы с психическим здоровьем из-за их работы.
Судебный иск был возбужден бывшим посредником в США по имени Селена Скола.
Она описала ведущих как хранителей душ, из-за количества видеозаписей, которые они видят с указанием последних моментов жизни людей.
Бывшие руководители, с которыми я разговаривал, использовали слово "истраума", описывая воздействие работы на них.
Некоторым было трудно спать и есть.
Один из них рассказал о том, как плач ребенка вызвал у коллегу панику.
Другой сказал, что ему трудно общаться со своей женой и детьми из-за жестокого обращения с детьми, свидетелями которого он был.
Я ожидал, что они скажут, что эта работа настолько эмоциональна и утомительна, что ни один человек не должен делать это – я думал, что они полностью поддержат всю индустрию, которая станет автоматизированной, и инструменты АИ будут развиваться, чтобы расширить свою деятельность.
Но они этого не сделали.
Что было очень мощно, так это огромная гордость ведущих за ту роль, которую они сыграли в защите мира от вреда в интернете.
Они рассматривали себя как жизненно важную экстренную службу.
Говорят, он хотел форму и значок, сравнивая себя с парамедиком или пожарным.
▪ Ни одной секунды не было потрачено впустую, — говорит кто-то, кого мы звали Дэвидом.
Он попросил остаться анонимным, но он работал над материалами, которые использовались для обучения вирусного чатбота AI ChatGPT, с тем чтобы он не был запрограммирован на регугитацию ужасных материалов.
Я горжусь людьми, которые обучали эту модель тому, что она есть сегодня.
Дэйв Уилнер был бывшим главой доверия и безопасности в OpenAI, создателем ChatGPT.
Он говорит, что его команда создала примитивный инструмент умеренности, основанный на технологии чатботс, который смог выявить вредное содержание с точностью около 90%.
Когда я вроде как поняла: "О, это сработает", я честно задохнулась немного, - говорит он.
Не скучай.
И они не устают и не шокируются...
Однако не все уверены в том, что ИИ является серебряной пулей для проблемного сектора умеренности.
По мнению доктора Пола Райли, старший преподаватель средств массовой информации и демократии в Глазгоском университете.
никчемный IA может быть довольно тупым, двоичным способом регулирования содержания.
▪ Это может привести к чрезмерному блокированию вопросов свободы слова, и, конечно же, ему может не хватать нюансов, которые могли бы идентифицировать люди-ведущие.
Человеческая умеренность крайне важна для платформ, он добавляет.
Проблема в том, что их недостаточно, и работа невероятно вредна для тех, кто это делает. Мы также обратились к техническим компаниям, упомянутым в серии.
Представитель компании " ТикТок " говорит, что фирма знает, что умеренность содержания - это не простая задача, и она стремится содействовать созданию условий для ухода за работниками.
Это включает в себя оказание клинической поддержки и разработку программ, которые поддерживают благополучие ведущих.
Они добавляют, что видео сначала проверяются автоматизированными технологиями, которые, по их словам, удаляют большой объем вредного контента.
Тем временем, Open AI - компания, стоящая за Chat GPT - говорит, что она признательна за важную и порой трудную работу, которую делают рабочие, чтобы обучить IA записывать такие фотографии и видео.
Представитель добавил, что совместно со своими партнерами " Открытая МА " проводит политику по защите благосостояния этих групп.
И Мета, которая владеет Instagram и Facebook, говорит, что она требует, чтобы все компании, с которыми она работает, оказывали круглосуточную поддержку на местах квалифицированным специалистам.
В нем также говорится, что ведущие могут адаптировать свои инструменты обзора для размывания графического контента.
Ведущие находятся на радио BBC 4 в 13:45 GMT, с понедельника, 11 ноября, по пятницу, 15 ноября, и на BBC Sounds.

Other Articles in Technology

News Image
Человек, осужденный за многократную ложь о изобретении Биткоина

Учёный-компьютер совершил презрение к суду за ложное и настойчивое утверждение о том, что он таинственный изобретатель Биткоина Сатоши Накамото. В марте Высокий суд постановил, что Крейг Райт не был Сатоши, и приказал ему прекратить утверждать, что он был им. Однако он продолжал возбуждать судебные...

Read more
News Image
N Korea хакеры украли 1,3 млрд. долл. США зашифрованного в этом году доклада

В этом году было украдено в общей сложности 2,2 млрд. долл. (1,76 млрд. Исследовательская фирма Chainalis говорит, что хакеры, связанные с затворным государством, украли 1,3 млрд. долл. В докладе говорится, что некоторые из этих краж связаны с северокорейскими хакерами, которые представляют собой ди...

Read more
News Image
Может ли МА помочь предотвратить потерю зрения, связанную с диабетом?

Это вторая особенность из шести частей серии, которая рассматривает вопрос о том, как ИИ изменяет медицинские исследования и лечение. Терри Куинн был только в подростковом возрасте, когда ему диагностировали диабет. В некотором смысле он восстал против ярлыка и частых тестов, не желая чувствовать се...

Read more
News Image
Амазонка знает о риске травматизма на складе, доклад делает вывод

Амазонка подталкивает своих американских работников складов к выполнению приказов на скоростях, которые могут привести к высоким уровням травм, несмотря на то, что им известно о рисках, расследование, проведенное сенатором Берни Сандерсом, было обнаружено. Выводы, сделанные по итогам 18-месячного об...

Read more
News Image
Трамп встречается с генеральным директором TikTok в качестве крайнего срока запрета

В понедельник избранный президент США Дональд Трамп встретился с директором компании TikTok, так как в социальных сетях гигантские борются с планами американских властей запретить это. В понедельник Трамп встретился с Шоу Зи Чу в его поместье Мар-а-Лаго во Флориде, о котором сообщил американский пар...

Read more
News Image
Офком извиняется за рекламу порно-шутки "невидимая"

Офком извинился за то, что, по его мнению, был "неоцененным" сотрудником о работе, которая включает мониторинг порнографических сайтов на предмет незаконного контента и прекращение доступа детей к ним. "Всегда хотел работать в порно, но у него нет сил для "Только Фанс"? Это ваш шанс", пошутил старши...

Read more
News Image
Амазонка сталкивается с угрозой США перед Рождеством.

Работники Amazon в США могут провести забастовку до Рождества, после того как члены профсоюза Teamsters проголосовали за поддержку промышленных действий. Рабочие говорят, что интернет-гигант отказался признать свой профсоюз и проигнорировал 15 декабря крайний срок для проведения переговоров по их ко...

Read more
News Image
Яблоко обвиняется в использовании полезных ископаемых конфликта

Демократическая Республика Конго подала уголовные жалобы во Франции и Бельгии на филиалы технологического гиганта Apple, обвинив его в использовании полезных ископаемых в конфликтах. Действуя от имени конголезского правительства, адвокаты утверждают, что " Эппл " является соучастником прес...

Read more
News Image
Как Facebook ограничила новости на палестинских территориях

Согласно исследованиям Би-би-си, Facebook серьезно ограничила возможности палестинских новостных агентств добираться до аудитории во время войны между Израилем и Газой. В ходе всеобъемлющего анализа данных Facebook мы обнаружили, что с октября 2023 года количество зрителей в пресс-центрах на палести...

Read more
News Image
Первая в мире страна Биткоин весит загадочные мечты

Сальвадор заключил с Международным валютным фондом (МВФ) кредитную сделку в размере 1,4 млрд. долл. Мировой кредитор заявил, что риски, связанные с принятием крупнейшей в мире валюты криптоматериалов, уменьшились сейчас, когда предприятиям будет разрешено решать, принимать или не принимать биткоин....

Read more