SACRAMENTO, California (NV) – Hồi Tháng Chín, 2024, Quốc Hội California gửi cho Thống Đốc Gavin Newsom hơn chục dự luật về trí tuệ nhân tạo (AI), kiểm tra các mối đe dọa đối với hạ tầng với cơ sở quan trọng, hạn chế sử dụng thuật toán đối với trẻ em…, theo báo mạng CalMatters.
Cuộc tranh luận về các dự luật và quyết định của thống đốc trong việc có thông qua hay không rất quan trọng vì California là trung tâm phát triển AI.
Rõ ràng, Dự Luật SB 1047 được nhiều chú ý nhất – và sau khi nó được cả hai viện của cơ quan lập pháp thông qua với tỉ lệ chênh lệch lớn, những người ủng hộ ngành và người tiêu dùng theo dõi chặt chẽ xem ông Newsom có ký thành luật hay không.
Do Thượng Nghị Sĩ Scott Wiener (Dân Chủ-San Francisco) giới thiệu, dự luật giải quyết các tác hại lớn mà AI có thể gây ra, yêu cầu các nhà phát triển AI kiểm tra khả năng chúng có thể thực hiện các cuộc tấn công vào hạ tầng cơ sở vật chất và kỹ thuật số, đồng thời giúp những người không phải là chuyên gia tạo ra các mô hình hóa học, sinh học, vũ khí nguyên tử, phóng xạ. Nó cũng bảo vệ những người muốn báo cáo những mối đe dọa như vậy từ nội bộ các công ty công nghệ.
Nhưng giả sử những tác hại đáng lo nhất về AI là chuyện thường nhật chứ không phải là chuyện tận thế thì sao? Đó là quan điểm của bà Alex Hanna, đứng đầu bộ phận nghiên cứu tại Distributed AI Research, có trụ sở tại California. Đây là tổ chức phi lợi nhuận do các nhà nghiên cứu AI có đạo đức thành lập.
Bà Hanna cho biết Dự Luật 1047 cho thấy các nhà lập pháp California tập trung quá nhiều vào rủi ro xa xôi mà không ngăn chặn các hình thức kỳ thị cụ thể.
Bà muốn các nhà lập pháp cấm sử dụng nhận dạng khuôn mặt trong các cuộc điều tra tội phạm vì ứng dụng AI đó đã được chứng minh là gây ra phân biệt chủng tộc.
Dự luật chống AI phân biệt đối xử bị dẹp bỏ
Một dự luật đề cập đến vấn đề AI phân biệt đối xử đã bị xếp lại trong năm 2024. Dự Luật AB 2930 yêu cầu các nhà phát triển AI đánh giá tác động và gửi kết quả đến Cơ Quan Dân Quyền, đồng thời sẽ coi việc sử dụng AI mang tính phân biệt đối xử là bất hợp pháp và phải chịu mức phạt $25,000 mỗi lần vi phạm.
Dự luật ban đầu quy định việc sử dụng AI có tính kỳ thị là bất hợp pháp trong các lĩnh vực quan trọng của nền kinh tế như nhà ở, tài chính, bảo hiểm, và y tế.
Nhưng tác giả của dự luật, Dân Biểu Rebecca Bauer-Kahan (Dân Chủ-San Ramon), đã rút lại sau khi Ủy Ban Chuẩn Chi Thượng Viện giới hạn dự luật trong việc đánh giá AI. Loại phân biệt đối xử đó dự kiến sẽ được hạn chế vì các quy tắc mà Cơ Quan Dân Quyền California và Cơ Quan Bảo Vệ Quyền Riêng Tư California đang soạn thảo.
Bà Bauer-Kahan nói với CalMatters rằng bà dự định đưa ra một dự luật mạnh mẽ hơn vào năm tới.
Bà thêm: “Chúng tôi có các biện pháp bảo vệ chống phân biệt đối xử mạnh mẽ nhưng theo những hệ thống này, chúng tôi cần thêm thông tin.”
Như dự luật của ông Wiener, dự luật của bà Bauer-Kahan phải qua cuộc vận động hành lang của các đối thủ trong ngành gồm Google, Meta, Microsoft, và OpenAI, những công ty đã thuê nhà vận động hành lang đầu tiên ở Sacramento hồi đầu năm.
Không như dự luật của ông Wiener, dự luật của bà Bauer-Kahan thu hút sự phản đối của gần 100 công ty thuộc nhiều ngành công nghiệp khác nhau, bao gồm Blue Shield of California, công ty ứng dụng hẹn hò Bumble, công ty công nghệ sinh học Genentech, và công ty dược phẩm Pfizer.
Theo bà Samantha Gordon, giám đốc chương trình tại TechEquity, tổ chức vận động ủng hộ dự luật, sự thất bại của dự luật phân biệt đối xử AI là một lý do khiến quy định về AI của California vẫn còn “lỗ hổng.”
Bà Gordon, cũng là người đồng tổ chức một nhóm làm việc về AI với các nhóm quyền riêng tư, lao động và nhân quyền, tin rằng California vẫn cần luật để giải quyết “sự phân biệt đối xử, tiết lộ, minh bạch và những trường hợp sử dụng nào đáng bị cấm vì có thể hại người.”
Tuy nhiên, bà Gordon cho biết, việc đưa ra dự luật của ông Wiener đã đánh dấu một bước tiến quan trọng, cũng như việc thông qua Dự Luật SB 892, đặt ra các tiêu chuẩn cho các hợp đồng mà cơ quan chính phủ ký kết với các dịch vụ AI.
Làm như vậy, tác giả, Thượng Nghị Sĩ Steve Padilla (Dân Chủ-Chula Vista), nói với CalMatters đầu năm 2024, là thúc đẩy sức mua của chính phủ để khuyến khích các dịch vụ AI an toàn hơn và có đạo đức hơn.
Với sức mạnh của công nghệ AI, điều này là sự hiển nhiên, theo ông Joep Meindertsma, giám đốc điều hành Pause.ai. Công ty Pause.ai đề nghị điều chỉnh AI, tán thành dự luật của ông Wiener và thậm chí tổ chức các cuộc biểu tình tại văn phòng các công ty có trụ sở tại California, gồm Meta và OpenAI.
“Động lực thị trường giữa các quốc gia cố dẫn đầu, cố gắng tránh quản lý công ty của họ quá nhiều vì sợ bị chậm lại trong khi các quốc gia khác tiếp tục chạy đua, động lực đó là vấn đề mà tôi cảm thấy là độc hại nhất trong toàn bộ quá trình,” ông Meindertsma nói.
Đã có những dấu hiệu cho thấy áp lực của ngành có thể chiếm ưu thế, ít nhất là chống lại dự luật của ông Wiener.
Một số thành viên Dân Chủ trong Quốc Hội California đã kêu gọi ông Newsom phủ quyết dự luật.
Trong thời gian gần đây, ông Newsom dường như tập trung vào AI, tỏ ra quan tâm đến việc sử dụng AI để giải quyết các vấn đề tại California, ký thỏa thuận với công ty AI Nvidia vào Tháng Tám, khai triển chương trình thí điểm AI cho tư vấn thuế vào Tháng Hai, và vừa qua, giới thiệu giải pháp AI kết nối người vô gia cư với các dịch vụ.
Khi được hỏi trực tiếp về dự luật của ông Wiener vào Tháng Năm, ông Newsom nói rằng các nhà lập pháp phải đạt được sự cân bằng giữa việc đáp ứng các lời kêu gọi quản lý và việc lạm dụng nó.
Những dự luật AI bất ngờ
Một số dự luật nhắm mục tiêu nhiều hơn – và ít được công bố rộng rãi hơn – so với SB 1047 của ông Wiener đã thành công tại Quốc Hội.
Dự Luật SB 942 yêu cầu các công ty cung cấp miễn phí công cụ phát hiện AI cho công chúng để họ có thể nhận ra sự khác biệt giữa AI và thực tế. Dự luật do Thượng Nghị Sĩ Josh Becker (Dân Chủ-Menlo Park) giới thiệu.
Dự Luật SB 896 của Thượng Nghị Sĩ Bill Dodd (Dân Chủ-Napa) buộc các cơ quan chính phủ đánh giá rủi ro khi sử dụng AI và tiết lộ thời điểm sử dụng công nghệ này.
Các dự luật AI khác được thông qua năm 2024 được thiết kế để bảo vệ trẻ em, như một dự luật quy định việc tạo nội dung khiêu dâm trẻ em bằng AI có tính tổng hợp là phạm tội và một dự luật khác yêu cầu các nhà sản xuất ứng dụng truyền thông xã hội tắt việc quản lý nội dung theo thuật toán đối với người dùng dưới 18 tuổi, trừ phi có sự cho phép của cha mẹ hoặc người giám hộ.
Dự luật cũng hạn chế thông báo của mạng xã hội trong giờ học và từ nửa đêm đến 6 giờ sáng.
Bộ ba dự luật được thông qua trước đó nhằm bảo vệ cử tri không bị âm thanh, hình ảnh, và video lừa đảo được gọi là “deepfake.” Một dự luật nhắm vào những người tạo hoặc phát hành nội dung lừa đảo được thực hiện bằng AI và cho phép các chánh án yêu cầu họ gỡ bỏ nội dung đó hoặc bồi thường thiệt hại.
Một dự luật khác yêu cầu các nền tảng trực tuyến lớn như Facebook phải xóa hoặc dán nhãn các nội dung giả mạo trong vòng 72 giờ kể từ khi bị báo cáo, trong khi một dự luật khác yêu cầu các chiến dịch chính trị tiết lộ việc sử dụng AI trong quảng cáo.
Ngoài ra, ông Newsom còn có các dự luật yêu cầu người sáng tạo phải xin phép trước khi sử dụng hình ảnh người chết và cấm sử dụng bản sao kỹ thuật số trong một số trường hợp. Cả hai dự luật đó đều được hiệp hội tài tử SAG-AFTRA ủng hộ.
Những dự luật không được thông qua
Dự Luật AB 3211, yêu cầu các nhà sản xuất AI phải dán nhãn nội dung do AI tạo ra. Nó vẫn được đưa ra bất chấp có ủng hộ của các công ty Adobe, Microsoft, và OpenAI. Trong một tuyên bố trên mạng xã hội, tác giả dự luật, Dân Biểu Buffy Wicks (Dân Chủ-Oakland), cho biết thật không may khi Thượng Viện California đã không chấp nhận dự luật của bà, “là chính sách kiểu mẫu cho toàn quốc.”
Dự luật dán nhãn và dự luật của bà Bauer-Kahan là hai trong ba dự luật được Liên Âu (EU) coi là then chốt, những người đã khuyên các nhà lập pháp California áp dụng quy định về AI phù hợp với đạo luật AI của EU, vốn mất năm năm để vận động. Ông Gerard de Graaf, giám đốc văn phòng EU tại San Francisco, đã đến thăm Quốc Hội California để gặp gỡ các tác giả của AB 3211, AB 2930, và SB 1047 nhằm theo đuổi mục tiêu điều chỉnh quy định giữa Sacramento và Brussels, Bỉ.
“Điều này đòi hỏi sự hiểu biết thấu đáo và điều này không có ở nhiều cơ quan lập pháp trên thế giới và theo nghĩa đó, California dẫn đầu,” ông de Graaf nói. “Việc California đạt được nhiều thành tích như vậy trong một năm không phải là một thành tích tầm thường.”
Việc dự luật bảo vệ công dân không bị AI phân biệt đối xử đã không được thông qua là một sự phản ảnh thực sự đáng thất vọng về sức mạnh của công nghệ trong nền chính trị California, Giáo Sư Veena Dubal thuộc trường luật đại học UC Irvine, người nghiên cứu về công nghệ và những người lao động bị gạt ra ngoài lề xã hội, cho biết.
Bà nói: “Cảm giác thực như cơ quan lập pháp của chúng ta bị các công ty công nghệ nắm giữ.”
“Việc những luật đó (bảo vệ trẻ em) được thông qua không đáng ngạc nhiên, và tôi hy vọng rằng việc thông qua chúng sẽ mở đường cho việc ngăn chặn hoặc cấm sử dụng AI hoặc ra quyết định tự động trong các lĩnh vực khác của cuộc sống chúng ta, nơi rõ ràng nó đã gây ra nhiều tác hại,” bà tiếp.
Hôm 29 Tháng Chín, 2024, Thống Đốc Gavin Newsom phủ quyết Dự Luật SB 1047 của Thượng Nghị Sĩ Scott Wiener. (ĐG) [qd]
