OpenAI VD Altman larmar över AI och ChatGPT

OpenAI VD Sam Altman och Fang Bingxing – som anses vara "fadern till Kinas stora brandvägg", ansluter sig till OpenAIs medgrundare Elon Musk för att ta upp farhågorna med artificiell intelligens (AI).

"Vi måste vara försiktiga här," berättade den 37-årige Altman ABC News förra veckan och tillade "Jag tror att folk borde vara glada över att vi är lite rädda för det här."

"Jag är särskilt orolig att dessa modeller kan användas för storskalig desinformation ... Nu när de blir bättre på att skriva datorkod kan [de] användas för stötande cyberattacker."

Som sagt, Altman tror också att det kan vara "den största teknik som mänskligheten har utvecklat ännu."

OpenAI är företaget bakom Chat GPT, som lanserade "GPT-4" för mindre än två veckor sedan. Den mycket sofistikerade chatboten kan nå nästan perfekta poäng på SAT-mattetest, och uppnå 90 % på advokatexamen i USA.

Och den har konkurrenter...

Andra AI-baserade startups gör också överraskande framsteg på området. RAD AI lanserade nyligen den första AI-marknadsföringsplattformen byggd för att förstå känslor, och några av de största företagen på planeten använder den redan.

GenesisAI är en startup som bygger en marknadsplats för att göra det möjligt för alla företag att integrera AI och automation i sin verksamhet. Det betyder snart att AI kan vara lika mycket av en integrerad del av ett företag som de anställda själva. –Benzinga

Men enligt Altman, ChatGPT-4 använder deduktiva resonemang kontra memorering, vilket kan leda till felaktiga resultat.

"Det som jag försöker varna folk mest är vad vi kallar "hallucinationsproblemet"" sa Altman till ABC News. "Modellen kommer med säkerhet att säga saker som om de vore fakta (men de) är helt påhittade."

tänker Altman det finns ett behov av reglering av AI i allmänhet.

"Det kommer att finnas andra människor som inte sätter några av säkerhetsgränserna som vi sätter på," sa han. "Samhället tror jag har en begränsad tid på sig att ta reda på hur man ska reagera på det, hur man reglerar det, hur man hanterar det."

Är också bekymrad över GPT-4 och liknande AI Fang Bingxing, fadern till Kinas så kallade Great Firewall.

Enligt Fang kan sådana chatbots leda till en "informationskokon" (i motsats till det fria informationsflödet i Kina?)

"Människors perspektiv kan manipuleras när de söker alla typer av svar från AI," sa han till Red Star News, en mediefilial till det statligt stödda Chengdu Economic Daily, som rapporterats av SCMP.

Fang, en datavetare och före detta regeringstjänsteman, anses allmänt vara chefsdesignern för Kinas ökända internetcensur och övervakningssystem. Han spelade en nyckelroll i att skapa och utveckla den stora brandväggen, ett sofistikerat system med internetfilter och block som låter den kinesiska regeringen kontrollera vad dess medborgare kan komma åt online.

Den stora brandväggen har stärkts under det senaste decenniet och blockerat kinesiska nätanvändares tillgång till ett brett utbud av utländska webbplatser och onlinetjänster inklusive Facebook, Twitter och Google. -SCMP

Fang varnade också för att när AI utvecklas ytterligare kan det utgöra ett hot mot mänskligheten.

"Nu är det helt enkelt programvara som används i ett onlinechattliknande scenario. Om det är inbyggt i robotar och bilar måste vi vara vaksamma för den potentiella skada de kan göra på människor.”

Läs hela historien här ...