Politik

Maven: AI, Pentagon och Google driver bort AI-experter, men Silicon Valley kommer allt närmare Pentagon

AI håller på att ge världen förarlösa bilar men också förarlösa stridsvagnar, AI-försedda robotar och allt mer avancerade AI-system som kommer att kunna identifiera och döda fiender mitt i en stor folkmassa.

S.k. vapeniserad AI, som idag mest handlar om vapenbestyckade drönare och avancerade AI-system, som kan identifiera och människor på marken, är oerhört hett i Silicon Valley idag, och kommer att förändra världen inför våra ögon. Men inte bara i Silicon Valley. Även Ryssland, Kina och Israel är några av de aktörer som är beredda att betala stora summor pengar för AI-experter som inte har några större skrupler att ge sig in på det här området.

Scott Shane, Cade Metz och Daisuke Wakabayashi skriver i New York Times: How a Pentagon Contract Became an Identity Crisis for Google

Yet last September, when nervous company officials discussed how to speak publicly about Google’s first major A.I. contract with the Pentagon, Dr. Li strongly advised shunning those two potent letters.

“Avoid at ALL COSTS any mention or implication of AI,” she wrote in an email to colleagues reviewed by The New York Times. “Weaponized AI is probably one of the most sensitized topics of AI — if not THE most. This is red meat to the media to find all ways to damage Google.”

It has fractured Google’s work force, fueled heated staff meetings and internal exchanges, and prompted some employees to resign. The dispute has caused grief for some senior Google officials, including Dr. Li, as they try to straddle the gap between scientists with deep moral objections and salespeople salivating over defense contracts.

The advertising model behind Google’s spectacular growth has provoked criticism that it invades web users’ privacy and supports dubious websites, including those peddling false news. Now the company’s path to future growth, via cloud-computing services, has divided the company over its stand on weaponry. To proceed with big defense contracts could drive away brainy experts in artificial intelligence; to reject such work would deprive it of a potentially huge business.

The internal debate over Maven, viewed by both supporters and opponents as opening the door to much bigger defense contracts, generated a petition signed by about 4,000 employees who demanded “a clear policy stating that neither Google nor its contractors will ever build warfare technology.”

Allt tyder på att Silicon Valley under de närmaste åren kommer att bygga allt fler “vapensiderade” AI-system inte bara för Trump-regeringen utan också för andra regeringar. Den som inte blir vettskrämd över den här utvecklingen kommer med stor säkerhet att gilla nästa världskrig.

Leave a Reply

Your email address will not be published. Required fields are marked *