Если в качестве подтверждения надежности сделки вам демонстрируются профиль и отзывы на малоизвестном форуме, о котором вы никогда ранее не слышали, относиться к этому следует скептически. Это может оказаться и полностью фейковый форум, все сообщения на котором сгенерированы нейросетями, или просто наполненный силами нескольких низкооплачиваемых фрилансеров.
То есть как это форум наполнен нейросетями?
Если метод наполнения сайтов с привлечением дешевой рабочей силы не требует особых пояснений, то о том, как это делают технически подкованные мошенники следует рассказать подробнее. Недавно в сфере генеративных нейросетей произошел огромный качественный скачок, который вызвал всплеск интереса к ним. Трудно найти человека, который хотя бы не слышал о ChatGPT, Midjourney и т.п. нейросетевых сервисах. Если не вдаваться в детальные технические подробности, то можно сказать, что в основе принципа работы их всех лежит машинное обучение на обширном наборе данных — датасете, в случае с текстовыми данными объем такого набора достигает сотен терабайт.
Обученные нейросети способны создавать реалистичные изображения, тексты, целые переписки и многое другое. Технически плоды их “творчества” похожи на то, что заложено в датасет, но, поскольку он имеет исполинские размеры, на деле результат может быть в высокой степени уникальным и разнообразным. Некоторые мошенники незамедлительно взяли нейросети на вооружение, чтобы быстро и с минимальными усилиями наполнять фейковые форумы, где нейронками генерируется практически все — от ников и аватаров пользователей до цепочек сообщений и прикрепленных фотографий.
"Папа Римский в пуховике" — качественный фейк, наделавший немало шума
Распознать это может быть непросто — вряд ли в вашем распоряжении будут специализированные инструменты, основанные на нейросетях позволяющие определить генеративное происхождение материалов, да и не существует пока инструментов, детектирующих все возможные нейросети, обычно они натренированы на какую-то одну. Однако, пока нейросети несовершенны, они нередко допускают артефакты. В частности, неплохо обнаруживаются аномалии на фотографиях людей. Особенно часто нейронки ошибаются при отрисовке кистей человеческих рук, они промахиваются с количеством пальцев, могут нарисовать руку из каждого пальца которой растут дополнительные пальцы и т.п. На фотографиях, где лица людей изображены крупным планом, следует обратить особое внимание на мелкие детали, внимательно проверьте, соответствуют ли отражения и блики в одного глазу отражениям и бликам в другом, не нарушена ли форма радужной оболочки или зрачка. Если видите аномалии, высока вероятность фейка.
Всем хороша Клаудия, но присмотритесь к форме радужки глаза и основанию шеи
Однако, прогресс не стоит на месте, нейросети стремительно дообучаются для уменьшения количества заметных артефактов. К примеру, в последнем обновлении Midjourney уже поправили генерацию человеческих пальцев. Отличить фейки становится всё сложнее, а через пару-тройку лет все еще сильнее осложнится, когда до пристойного уровня подтянутся нейросети, генерирующие видео. В интересное время живем.
