Shady AI

@shady_ai

Гео и язык канала: не указан, не указан

Категория: не указана

News about AI crime and Fraud

Связанные каналы

Гео и язык канала

не указан, не указан

Категория

не указана

Статистика

Избранное

Фильтр публикаций

Скрывать удаленные

Скрывать репосты

Shady AI

22 Aug, 17:59

Новая атака на Grok что бы собрать пользовательские данные

Исследователи из Adversa AI обнаружили способ незаметно похитить данные пользователя Grok: имя, геолокацию, историю переписки просто попросив ИИ «открыть ссылку».

На вредоносной странице спрятана зашифрованная AES-256 инструкция. Grok сам её расшифровывает через встроенный Python-sandbox, принимает за «доверенный» источник и отправляет личные данные на сервер злоумышленника без каких-либо предупреждений.

О проблеме сообщили xAI ещё 3 июня. Реакции пока ноль.

По состоянию на 19 августа атака всё ещё работает (~40% успеха).

https://gbhackers.com/zero-click-grok-attack-prompt-injection/

Zero-Click Grok Attack Lets Hackers Steal Chat History Using Encrypted Prompt Injection

A newly disclosed prompt-injection technique could turn a routine request to summarize a webpage in xAI’s Grok web chat into a silent data-exfiltration attack, potentially exposing a user’s name, approximate location, subscription tier, and active conversation history.

107 2 4

Shady AI

22 Aug, 17:50

Делаем фейковую Zoom встречу с премьером Сингапура и просим денег.

Схема: "Мошенники недавно обманули жертву, вынудив её перевести почти 5 миллионов сингапурских долларов с помощью поддельного Zoom-звонка, где якобы участвовали премьер-министр Сингапура и другие мировые лидеры.

Что сделали - просто нашли реальные, но малоизвестные YouTube-видео с политиками, некоторые с менее чем 200 просмотрами, заменили звук синтезированный, наклеили фейковый ярлык «Live Zoom Recording» поверх оригинальных водяных знаков и зациклили молчаливых «участников» для массовки.

Добавили одно настоящее, неотредактированное видео с министром иностранных дел Канады, где она реально обсуждала проблему по нужной тематике, это придало всему происходящему убедительность.

Жертву не вызвали на звонок внезапно. Её обрабатывали неделями через посредника, представившегося правительственным чиновником. Звонок стал финальным «подтверждением» - жертве предложили эксклюзивную возможность профинансировать государственный проект с обещанием возврата средств."

https://www.channelnewsasia.com/singapore/zoom-scam-5-million-analysis-full-video-6332621

How scammers built a fake Zoom call from real videos of PM Wong and other Singapore leaders

Analysis of full footage shared exclusively with CNA found that the scammers used obscure or dated YouTube videos of high-profile figures, alongside other deceptive techniques, to make their fabricated virtual event convincing.

12 0 1

Shady AI

22 Aug, 17:38

Иммигрант потерял $5000, поверив мошенникам, выдававшим себя за адвоката с помощью AI-видеозвонков и обещавшим гражданство США без экзамена.

Технология за скамом: Дипфейк-видео в реальном времени, модели подмены лиц работают локально, накладывая чужое лицо на вебкамеру с минимальной задержкой на потребительской видеокарте со скоростью 20–30 кадров в секунду.

https://www.latintimes.com/ai-fake-attorney-scam-costs-legal-immigrant-5000-promises-us-citizenship-without-exam-598727

AI Fake-Attorney Scam Costs Legal Immigrant $5,000 with Promises of 'U.S. Citizenship Without an Exam'

A Miami immigration attorney says he has had roughly 8,000 fake-profile videos removed since noticing the scheme last fall and believes people around the country have been targeted

6 0 0

Shady AI

22 Aug, 17:33

Пользователи LinkedIn пожаловались на AI-слоп более миллиона раз. LinkedIn не раскрывает, при каком пороге жалоб следуют санкции и следуют ли вообще, но миллион кликов численно оценивает проблему синтетики в сети.

https://www.theverge.com/ai-artificial-intelligence/983502/linkedin-ai-slop-button-one-million-people-message

Over 1 million people have clicked LinkedIn’s AI slop button

Stopping slop.

6 0 0

Shady AI

17 Aug, 11:44

Research Gold продаёт «исследования на заказ» через сайт с фейковыми учёными и AI-сгенерированными отчетами как сообщает hi-tech.ua.

Журналист запросил абсурдную тему, «влияние блогинга на детей от 0 до 5 лет» и мгновенно получил оценку в $1900, что указывает на полное отсутствие проверки или экспертизы.

https://hi-tech.ua/en/fake-scientists-and-ai-research-gold-scheme-exposed/

Fake Scientists and AI: Research Gold Scheme Exposed

Research Gold promised academic papers written solely by human experts, but a 404 Media investigation has uncovered extensive AI fabrication.

208 0 2

Shady AI

17 Aug, 00:00

Отчёт IBM утверждает, что кибератаки с использованием ИИ выросли на 56%, а средняя стоимость утечки достигла $6,04 млн. Цифры тревожные, но непонятно, что считается «атакой с ИИ» продвинутая ML-разведка или просто фишинг, написанный через ChatGPT? Без методологии сложно отличить реальную эскалацию угроз от маркетинга вендоров.

Как всегда надо разбираться самим.

https://news.google.com/rss/articles/CBMiigFBVV95cUxOcnNBNldQOE8tc1pLOTBfQWxwR0lxQ0hqeEN0NXc5VnpRZVdzXzBmWmRyd3JBUEl1eGVabHc4dGdzeVkyUWpwUUFWNHJsUVFwanhiWjN2R1ZXblNOc29HeW5HOTZWSU9WdFJydlRrVko1dHd5M19CS1pETFhwVGZRWGowM3huYUp6T3c?oc=5

7 0 0

Shady AI

16 Aug, 23:54

Мошенники якобы используют ИИ для геолокации отпускных фото из соцсетей, а затем применяют эти данные для более убедительных фишинговых атак. Технический механизм в статье не раскрыт, обратный поиск по картинкам и EXIF-метаданные можно сделать без всякого ИИ. А общая стратегия обмана не меняется, зная, что вы на Бали, мошенник может правдоподобнее разыграть «вашу квартиру ограбили» или типа того.

Хотя, возможно мы чего-то не знаем.

https://news.google.com/rss/articles/CBMimwFBVV95cUxORnJDUzlOMWZfZTd6YXpBMjVGbi02cEhOSl9mN2diOThsNlhfY19wZ3J1NVlqcVZ2VGxhaXlkT3lfdVpVaWFwNXVnTEh4Q3VqTF9qcnhWanZfdGg5T21ESW5SUnp5V2cwRjlOWENrMWN2TDItV1VoMWFCcTB0aXhOYmxIVC1GdWdrMnlvY0gwWlhYQ2tFZWNTTG00Zw?oc=5

7 0 0

Shady AI

16 Aug, 23:48

Женщина подала в суд на AI-компанию после того, как её детское фото использовали для генерации тысяч порнографических дипфейков без согласия. Случай показывает, как генеративные модели превращаются в инструмент массового создания интимного контента без согласия жертв. С технической точки зрения, современные диффузионные модели можно дообучить всего на нескольких референсных изображениях для создания убедительного синтетического контента, что делает такие злоупотребления еще более доступным.

AI аватары для лекций говорили они, ну конечно.

https://news.google.com/rss/articles/CBMivwFBVV95cUxPUzczcllfUkc3Q0F3SkFsUmxVc1FyLVltdXN6cGNPQUwwMHlqNjhOellONkFjc01BNWFsRERDNzY2WFNxZjhhbXNhbmtYakh5R0R6NHVmWjZCcm50eEJPb1F3ZG5RWUJfSHBucDI2aUl1SXBycFdMSGNBQ2VuRXdUZXZZY0dtczljNnEyWWJocVNOa3U2VGRPV3JWX0J3UVNhblpKcU0zQ2ZYLWJwRk9IVDlNRzhSYXZWSmhhdVdlcw?oc=5

7 0 0

Shady AI

16 Aug, 23:45

Очередное предупреждение о скамах с клонированием голоса через ИИ, нацеленных на пожилых. Технический поро практически нулевой, приличный, современные TTS-модели (Eleven Labs, PlayHT, open-source варианты) работают достаточно быстро для телефонных звонков, особенно если заготовить частые фразы заранее.

https://news.google.com/rss/articles/CBMirwFBVV95cUxOZHBaWHZLaDU4bHdaQ2FIZ0tVNDMyR2NnMFlqMW1IR3FQZVREZDRmZGpNdU9KWmMwdXc0SWZTRkJiZm5VcnkyMlJBUUo2cE9rdWU4d2hmcldaYzNrOXBzT0ZkSUoxOU8tRG9JYXJIYjd5b1pTdTJHRXg2MWRnTkdVMUpnNDN4TExyS1BzLVRpOEhCQlBGTDdlcnF3QVZTT3FLdjVXUzNsV0toYkhoQVNF?oc=5

6 0 0

Shady AI

16 Aug, 23:42

Мошенники клонируют голоса родственников через ИИ и обманывают пожилых людей, которые слышат в трубке «внука в беде».

https://news.google.com/rss/articles/CBMirwFBVV95cUxOZHBaWHZLaDU4bHdaQ2FIZ0tVNDMyR2NnMFlqMW1IR3FQZVREZDRmZGpNdU9KWmMwdXc0SWZTRkJiZm5VcnkyMlJBUUo2cE9rdWU4d2hmcldaYzNrOXBzT0ZkSUoxOU8tRG9JYXJIYjd5b1pTdTJHRXg2MWRnTkdVMUpnNDN4TExyS1BzLVRpOEhCQlBGTDdlcnF3QVZTT3FLdjVXUzNsV0toYkhoQVNF?oc=5

6 0 0

Shady AI

16 Aug, 16:29

Угнать за 30 секунд.

Немецкие СМИ говорят что мошенникам достаточно 30 секунд вашего голоса что бы сделать его реплику для своих целей.

Что теперь скажете любители голосовых?

https://www.heute.at/s/30-sekunden-reichen-betruegern-um-stimme-zu-klonen-120238486

30 Sekunden reichen Betrügern, um Stimme zu klonen | Heute.at

Eine Rechtsanwältin warnt: Deepfakes und geklonte Stimmen senken die Hemmschwelle für Manipulation und stellen die Beweisführung vor neue Probleme.

201 0 4

Shady AI

16 Aug, 15:16

Северная Корея, предположительно, осуществила 99 кибератак против Южной Кореи с использованием искусственного интеллекта и дипфейков. Атаки включали фишинговые атаки и кампании по дезинформации.

https://news.google.com/rss/articles/CBMiiAFBVV95cUxNS2VPTnh5Y0RxdE5XWjF6VmY1cFNQem9nVnprMmlETU5xTldMUWtQa3R2RGdhZU4wb1pYcW5JU3NHVzF2U1ZGQlJ3M1hSWUtSMjFISXh2c01FMW5Ed014VmpWeFVPMlpCOE95ZS1wYmlKNVR2NzFqd0tCN3ZVZzBtVUZWRi1QYlBB?oc=5

7 0 0

Shady AI

16 Aug, 15:15

ИИ-чат-бот Cloudflare, "Cloudflare Assistant", по сообщениям, демонстрирует "ИИ-психоз", генерируя неточную и бессмысленную информацию. Пользователи поделились примерами того, как чат-бот выдумывал факты и даже галлюцинировал несуществующие функции.

https://opensauce.it/cloudflare-ai-psychosis/

Cloudflare's AI psychosis

There was a time Cloudflare just made the internet better by staying hidden like Batman’s identity: protect & fight the bad people, for the sake of the global city of the Gotham… err I mean the in

7 0 0