Pot SUA avea încredere în Inteligența Artificială pentru Securitatea Națională?
Nicăieri nu sunt mai mari mizele pentru a ne asigura că sistemele rămân aliniate cu scopurile creatorilor lor. De Judd Rosenblatt și Cameron Berg
Când strategul nuclear Herman Kahn a publicat „Gândindu-ne la Inimaginabil” în 1962, a obligat americanii să se confrunte cu posibilitatea unui război nuclear și a prăbușirii civilizației. Liderii militari și politici au respins inițial lucrarea sa ca alarmistă. Dar ideea centrală a lui Kahn a fost crucială și simplă: a spera că lucrurile nu vor scăpa complet de sub control nu este un plan.
Ne confruntăm cu un punct de inflexiune similar cu inteligența artificială. Ne îndreptăm cu viteză spre sisteme cu capacități care păreau science fiction acum un an. Pentagonul negociază contracte cu laboratoarele de inteligență artificială, fiecare cu limite de până la 200 de milioane de dolari, pentru a integra inteligența artificială în securitatea națională. Dar cumpărăm putere de foc AI brută, fără nicio investiție comparabilă în a face aceste sisteme ușor de dirijat și sigure.