How AI is being used to create sophisticated scams that leave even experts second-guessing

Mon, 28 Apr 2025 19:20:35 +1000

Andrew Pam <xanni [at] glasswings.com.au>

Andrew Pam
<https://www.abc.net.au/news/2025-04-28/scammers-using-ai-produce-sophisticated-scams/105150946>

'Leon knows a scam when he sees it — he's a fraud and data analyst who has
previously worked for financial institutions.

But even he was left second-guessing when he was contacted by scammers who he
believes used artificial intelligence to create elaborate websites for
businesses that don't exist.

Leon — not his real name — has asked to be anonymous due to concerns his data
could be breached.

Like many scams, Leon's experience began with a cold call from someone
identifying themselves as an employee of marketing agency Assent Advisory, and
claiming to promote an investment opportunity.

Knowing cold calls are a red flag, Leon played along, curious to see how it
would play out.

Leon's caller was professional, patient and didn't pressure him to provide
sensitive financial information over the phone — a tactic often reported by
scam victims.

But when he was sent links to the glossy websites of the investment firm being
promoted, and a mining company the firm would help him buy shares in, Leon
quickly realised this was not any "old school scam".

The elaborate sites featured a business registration number, detailed weekly
blog posts, a list of board members with their pictures and the names of their
graduating universities, the locations of multiple mining sites, and even a
range of publicly accessible documents detailing company policies.

Leon said the level of detail was convincing.

"I do this kind of work, I'm a pretty sceptical person, but I looked at the
[site] and I thought 'well, if I was given this website by someone I trusted …
I wouldn't [take] a second glance'," he said.

"So basic due diligence is probably not enough here."'

Cheers,
       *** Xanni ***
--
mailto:xanni@xanadu.net               Andrew Pam
http://xanadu.com.au/                 Chief Scientist, Xanadu
https://glasswings.com.au/            Partner, Glass Wings
https://sericyb.com.au/               Manager, Serious Cybernetics

Comment via email

Home E-Mail Sponsors Index Search About Us