Palantir, Nvidia Hadkan Penggunaan Model AI Kerana Kebimbangan Keselamatan Data - Laporan

Syarikat teknologi besar seperti Palantir Technologies, Nvidia, dan Booz Allen Hamilton dilaporkan sedang mengehadkan atau mempertimbangkan untuk menghentikan penggunaan model kecerdasan buatan (AI) termaju. Tindakan ini didorong oleh kebimbangan bahawa pembangun model seperti Anthropic dan OpenAI mungkin menyalahgunakan harta intelek mereka, menurut satu laporan daripada The Information.

Sekatan Didorong Kebimbangan Harta Intelek

Menurut laporan itu yang memetik sumber arif, syarikat-syarikat ini menuntut jaminan yang lebih kukuh mengenai cara data mereka dikendalikan. Kebimbangan ini telah membawa kepada beberapa tindakan khusus:

• Palantir dilaporkan telah mendesak Anthropic untuk memberikan "jaminan pengekalan data sifar yang tidak boleh ditarik balik" sebelum ia membenarkan model Anthropic diakses melalui perisiannya.
• Nvidia telah mengehadkan penggunaan model Anthropic kepada tugasan yang kurang sensitif dan sebaliknya bergantung pada model dalamannya sendiri, Nemotron, untuk kerja yang lebih kritikal.
• Booz Allen telah melarang pekerjanya daripada menggunakan model komersial Anthropic untuk kerja keselamatan siber proprietari.

Dasar Pengekalan Data Menjadi Tumpuan

Kebimbangan ini memuncak selepas beberapa insiden dan perubahan dasar oleh makmal AI. Anthropic sebelum ini menerima kritikan selepas perubahan dasar pada bulan Jun yang membenarkan syarikat itu menyimpan log penggunaan selama 30 hari untuk tujuan keselamatan. OpenAI juga menghadapi penelitian serupa di tengah-tengah dakwaan bahawa ia mungkin telah melatih model menggunakan data pengguna.

Ad

Kedua-dua makmal AI tersebut menyatakan bahawa secara lalai, mereka tidak melatih model mereka menggunakan data pelanggan melainkan pelanggan memilih untuk berbuat demikian. Walau bagaimanapun, mereka mengumpul metadata tanpa nama untuk menambah baik produk, satu amalan yang masih menimbulkan keraguan dalam kalangan syarikat yang mengutamakan kerahsiaan data.

Peluang kepada Pesaing

Situasi ini dilihat memberi kelebihan kepada syarikat lain. Laporan itu menyatakan bahawa Microsoft sedang mengambil kesempatan daripada kebimbangan ini dengan mempromosikan penawaran AI mereka sendiri dan persekitaran awan terpencil (isolated cloud environments) sebagai alternatif yang lebih selamat.

Perkembangan ini berlaku di tengah-tengah gesaan daripada pemimpin industri AI sendiri, termasuk CEO Anthropic dan OpenAI, untuk memperlahankan pembangunan model termaju. Ini menunjukkan ketidaktentuan yang semakin meningkat mengenai keupayaan untuk memahami dan mengawal teknologi AI yang berkembang pesat, sekali gus memberi kesan kepada keyakinan pelanggan korporat.