“Potrebbe minacciare l’umanità”: è quanto riportato dai ricercatori di OpenAI in una lettera al consiglio. Si parla del progetto segreto “Q-Star”

Prima del licenziamento del CEO di OpenAI Sam Altman, dei ricercatori hanno scritto al CDA dell’azienda avvertendo di una scoperta che secondo loro “potrebbe minacciare l’umanità”.

Questo lo ha riportato Reuters dopo aver avuto contatti con due persone a conoscenza della questione.

@aitech

https://www.redhotcyber.com/post/potrebbe-minacciare-lumanita-e-quanto-riportato-dai-ricercatori-di-openai-in-una-lettera-al-consiglio-si-parla-del-progetto-segreto-q-star/

  • ailiphilia@feddit.it
    link
    fedilink
    Italiano
    arrow-up
    2
    ·
    edit-2
    1 year ago

    Posso sbagliarmi, ma l’articolo Reuters suona un po’ come un altro tentativo di marketing per mantenere l’hype IA (e OpenAI in particolare).

    C’è una “lettera” che non ha visto nessuno, una “minaccia” indefinita citata da persone senza nome, e un progetto “Q” sconosciuto.

    Scusate la mia ignoranza, ma non capisco il punto di questo articolo.

  • ailiphilia@feddit.it
    link
    fedilink
    Italiano
    arrow-up
    2
    ·
    1 year ago

    @informapirata@mastodon.uno @Kir@feddit.it @nardo86@mastodon.uno

    Nessuno sa cosa porterà il futuro e se le macchine eserciteranno mai potere sulle persone. Al momento è speculazione, ma la ‘doomsday AI’ - una narrazione tra le tante - guida perfettamente l’hype su questa tecnologia. Ciò supporta gli sforzi commerciali di Microsoft, un’impresa che ha licenziato l’intero consiglio etico all’interno della sua organizzazione IA (proprio come Google, Meta e Twitter) in primavera.

    A mio modesto parere, la tecnologia dell’IA è proprio questo: una tecnologia. E come sempre, non è la tecnologia a causare il danno, ma l’uomo, è l’assassino (e quello che lo ha incaricato) che uccide, non l’arma.

    Viviamo già in società in cui pochi esercitano un potere politico ed economico a scapito della maggioranza. Una delle differenze ora sembra che la ‘minaccia per l’umanità’ è proiettata su una tecnologia futura che potrebbe andare fuori controllo.

    Ma i problemi fondamentali sono sociali, non tecnologici, e i pericoli dell’IA esistono già ora, non in futuro. Le questioni dell’intelligenza artificiale di cui dovremmo discutere sono fondamentali per la struttura economica e sociale che stiamo già creando. Quali diritti d’autore sono violati? Quale privacy viene ignorata? Chi trae vantaggio dallo sviluppo del settore? Chi subisce dei danni?

    A mio avviso, queste domande dovrebbero essere portate anche dai giornalisti nella società, piuttosto che scrivere di “Q” o lettere che apparentemente non ha letto nessuno.