"Social ordning kan kollapsa" i AI-eran, säger två toppföretag i Japan

Japans största telekommunikationsföretag och landets största tidning efterlyste snabb lagstiftning för att begränsa generativ artificiell intelligens, och sa att demokrati och social ordning skulle kunna kollapsa om AI lämnas okontrollerad. De japanska företagens manifest, som pekade på de potentiella fördelarna med generativ AI för att förbättra produktiviteten, intog en allmänt skeptisk syn på tekniken. Utan att ge några detaljer sa det att AI-verktyg redan har börjat skada den mänskliga värdigheten eftersom verktygen ibland är utformade för att fånga användarnas uppmärksamhet utan hänsyn till moral eller noggrannhet. Om inte AI är återhållsam, "i värsta fall kan demokrati och social ordning kollapsa, vilket resulterar i krig", stod det i manifestet. Den sa att Japan borde vidta åtgärder omedelbart som svar, inklusive lagar för att skydda val och nationell säkerhet från missbruk av generativ AI. En global satsning pågår för att reglera AI, med Europeiska unionen i spetsen. EU:s nya lag uppmanar tillverkare av de mest kraftfulla AI-modellerna att låta dem gå igenom säkerhetsutvärderingar och meddela tillsynsmyndigheter om allvarliga incidenter. Det är också inställt på att förbjuda användningen av känsloigenkänning AI i skolor och på arbetsplatser. Biden-administrationen ökar också tillsynen…   och åberopade federala nödbefogenheter i oktober förra året för att tvinga stora AI-företag att meddela regeringen när de utvecklar system som utgör en allvarlig risk för den nationella säkerheten. USA, Storbritannien och Japan har var och en inrättat statligt ledda AI-säkerhetsinstitut för att hjälpa till att utveckla AI-riktlinjer. Ändå kämpar regeringar i demokratiska nationer för att ta reda på hur man reglerar AI-drivet tal, såsom sociala medier, med tanke på konstitutionella och andra skydd för yttrandefriheten. NTT och Yomiuri sa att deras manifest var motiverat av oro över det offentliga samtalet. De två företagen är bland Japans mest inflytelserika inom politik. Regeringen äger fortfarande ungefär en tredjedel av NTT, tidigare det statligt kontrollerade telefonmonopolet. Yomiuri Shimbun, som har en morgonupplaga på cirka sex miljoner exemplar enligt industrisiffror, är Japans mest lästa tidning. Under den avlidne premiärministern Shinzo Abe och hans efterträdare har tidningens konservativa redaktionella linje varit inflytelserik när det gäller att driva det regerande liberala demokratiska partiet att utöka militära utgifter och fördjupa nationens allians med USA. De två företagen sa att deras chefer har undersökt effekterna av generativ AI sedan förra året i en studiegrupp som leds av forskare från Keio University.