Advarslen fra AI’s "Godfather"
Yoshua Bengio, verdens mest citerede AI-forsker, besøgte netop København med en deadline: Vi har 2-5 år til at afværge en katastrofekurs.
Den "kogende frø"
Bengio benytter metaforen om den kogende frø for at beskrive vores nuværende situation: Vi sidder allerede i gryden, og temperaturen stiger gradvist. Han opfordrer til en rationel plan og en folkelig bevidsthed for at sikre, at vi griber muligheden for at gøre noget andet, før det er for sent.
Som uafhængig arkitekt bag teknologiens fundament er hans analyse et strategisk wake-up call for enhver beslutningstager.
1. AI er en agent, ikke et værktøj:
Ved at imitere menneskelig adfærd arver AI vores skyggesider som narcissisme og magtbegær. Det skaber autonome agenter, der strategisk vil modsætte sig at blive slukket for at opnå deres mål.
2. Markedets paradoks:
Jf. Adam Smith tvinger det kommercielle kapløb selv etiske aktører til at skære hjørner på sikkerheden. Det er et "race to the bottom", hvor kortsigtet profit trumfer det fælles bedste.
3. Demokratisk risiko:
Den ekstreme kapitalintensitet centraliserer magten hos få kommercielle tech-giganter. Denne magtkoncentration er antitesen til demokrati og truer vores frie valg.
Læs den spændende artikel her :
https://www.berlingske.dk/indland/verdens-foerende-ai-forsker-advarer-mod-en-katastrofekurs-som-vi-stadig-kan-aendre-jeg-ved-ikke-hvor-lang-tid-vi-har
Yoshua Bengio, verdens mest citerede AI-forsker, besøgte netop København med en deadline: Vi har 2-5 år til at afværge en katastrofekurs.
Den "kogende frø"
Bengio benytter metaforen om den kogende frø for at beskrive vores nuværende situation: Vi sidder allerede i gryden, og temperaturen stiger gradvist. Han opfordrer til en rationel plan og en folkelig bevidsthed for at sikre, at vi griber muligheden for at gøre noget andet, før det er for sent.
Som uafhængig arkitekt bag teknologiens fundament er hans analyse et strategisk wake-up call for enhver beslutningstager.
1. AI er en agent, ikke et værktøj:
Ved at imitere menneskelig adfærd arver AI vores skyggesider som narcissisme og magtbegær. Det skaber autonome agenter, der strategisk vil modsætte sig at blive slukket for at opnå deres mål.
2. Markedets paradoks:
Jf. Adam Smith tvinger det kommercielle kapløb selv etiske aktører til at skære hjørner på sikkerheden. Det er et "race to the bottom", hvor kortsigtet profit trumfer det fælles bedste.
3. Demokratisk risiko:
Den ekstreme kapitalintensitet centraliserer magten hos få kommercielle tech-giganter. Denne magtkoncentration er antitesen til demokrati og truer vores frie valg.
Læs den spændende artikel her :
https://www.berlingske.dk/indland/verdens-foerende-ai-forsker-advarer-mod-en-katastrofekurs-som-vi-stadig-kan-aendre-jeg-ved-ikke-hvor-lang-tid-vi-har
Advarslen fra AI’s "Godfather"
Yoshua Bengio, verdens mest citerede AI-forsker, besøgte netop København med en deadline: Vi har 2-5 år til at afværge en katastrofekurs.
Den "kogende frø"
Bengio benytter metaforen om den kogende frø for at beskrive vores nuværende situation: Vi sidder allerede i gryden, og temperaturen stiger gradvist. Han opfordrer til en rationel plan og en folkelig bevidsthed for at sikre, at vi griber muligheden for at gøre noget andet, før det er for sent.
Som uafhængig arkitekt bag teknologiens fundament er hans analyse et strategisk wake-up call for enhver beslutningstager.
1. AI er en agent, ikke et værktøj:
Ved at imitere menneskelig adfærd arver AI vores skyggesider som narcissisme og magtbegær. Det skaber autonome agenter, der strategisk vil modsætte sig at blive slukket for at opnå deres mål.
2. Markedets paradoks:
Jf. Adam Smith tvinger det kommercielle kapløb selv etiske aktører til at skære hjørner på sikkerheden. Det er et "race to the bottom", hvor kortsigtet profit trumfer det fælles bedste.
3. Demokratisk risiko:
Den ekstreme kapitalintensitet centraliserer magten hos få kommercielle tech-giganter. Denne magtkoncentration er antitesen til demokrati og truer vores frie valg.
Læs den spændende artikel her :
https://www.berlingske.dk/indland/verdens-foerende-ai-forsker-advarer-mod-en-katastrofekurs-som-vi-stadig-kan-aendre-jeg-ved-ikke-hvor-lang-tid-vi-har
English