Deepfakes will attack our most precious memories. Are we ready?

Sat, 2 Dec 2023 12:34:58 +1100

Andrew Pam <xanni [at]>

Andrew Pam

"Alzheimer’s has haunted my family for generations. I witnessed my
great-grandmother’s excruciating descent into oblivion as her memories slowly
eroded, leaving behind a hollow shell of the human being I remembered. The
experience instilled in me a profound sense of dread — will I be next?

A new technological threat has magnified that anxiety. Deepfakes,
hyperrealistic synthetic media powered by artificial intelligence, are fast
developing the capability to distort reality and manufacture false experiences
with alarming verisimilitude. For anyone who fears the loss of identity and the
loss of self through Alzheimer’s, deepfakes jeopardize the sanctity of our

Sophisticated AI synthesizes source material — photos, videos, voices — into
new, manipulated versions that appear genuine. With exponential improvements in
quality, deepfakes now simulate expressions and mannerisms with eerie accuracy,
making authenticity nearly impossible to verify, bringing unreality to life.

My grandmother’s decline taught me how fragile and precious memories are. They
shape our identity, guide our decisions, and nurture relationships. Losing them
is a special kind of agony. Deepfakes, however, imperil memories by fabricating
experiences that feel real, distorting the truth of our most precious moments.

As the line between real and fake memories blurs, deepfakes have the potential
to wreak psychological havoc. What are we left with when the building blocks of
selfhood and relationships corrode, and our sense of reality becomes unmoored?"

       *** Xanni ***
--               Andrew Pam                 Chief Scientist, Xanadu            Partner, Glass Wings               Manager, Serious Cybernetics

Comment via email

Home E-Mail Sponsors Index Search About Us