”So it gives you incentive to fall in love and do lots of naughty things to make copies of itself, right? Yeah. So that was successful value alignment done on the genes. They created something more intelligent than themselves, but they made sure to try to align the values. But then something went a little bit wrong against the idea of what the genes wanted, because a lot of humans discovered, hey, you know, yeah, we really like this business about sex that the genes that made us enjoy.
But we don’t want to have babies right now. Yeah. So we’re going to hack the genes and use birth control. And I really feel. Like drinking Coca-Cola right now, but I don’t want to get a Potbelly’s, so I’m going to drink Diet Coke, you know, we have all these things we figured out because we’re smarter than the genes, how we can actually subvert their intentions.” – Max Tegmark.
Ändåmålsenlig antropomorfiserad användning av ”smarter” som aldrig kvalificeras annat än det aprioriska ”manipulera”=smarter.
Den temporala dimensionen av eventuell manipulation ignoreras trots att samtalet behandlar konsekvenserna av unchecked AI/existentiell risk och således axiomatiskt accepterar idén att vi kan gå för långt. Manipulationen av oss själva och vår omgivning kan gå för långt.
Varför anammas inte samma disposition inför manipulationer som redan har ägt rum? Om man hävdar att vi kan gå för långt, måsta man underhålla möjligheten att vi redan har gått för långt.
Det krävs en argumentation som kvalificerar differentieringen mellan manipulation som ägt rum och manipulation som kan tänkas äga rum. Och kvalificeringen måste tillåta utrymme för att konsekvenserna av tidigare manipulationer inte är statiska utan dynamiska. Argumentationens rigorositet underhålls både spatialt och temporalt, med premiering av vad som är teoretiskt möjligt, inte vad som är sannolikt.
Long vol, short prediction models 