NHÀ XUẤT BẢN DÂN TRÍ
Chương 1 Giới thiệu Hãy tưởng tượng một thế giới nơi con người không có từ ngữ để chỉ các hình thức phương tiện giao thông khác nhau, chỉ có một danh từ chung duy nhất: “phương tiện”. Trong thế giới ấy, “phương tiện” có thể là xe hơi, xe buýt, xe đạp, tàu vũ trụ hay bất kỳ hình thức nào để di chuyển từ điểm A đến điểm B. Không khó để hình dung rằng các cuộc trò chuyện ở đó sẽ trở nên rối rắm. Người ta tranh luận nảy lửa về việc “phương tiện” có thân thiện với môi trường hay không, trong khi một bên đang nói về xe đạp, còn bên kia đang nói về xe tải. Khi có một bước đột phá trong công nghệ tên lửa, truyền thông lại chỉ đưa tin rằng phương tiện đang ngày càng nhanh hơn đến mức nào, khiến người dân gọi đến đại lý xe hơi (à không, đại lý phương tiện) để hỏi khi nào có mẫu phương tiện mới chạy nhanh đó. Trong bối cảnh nhập nhằng như vậy, những kẻ lừa đảo dễ dàng lợi dụng sự mơ hồ của người tiêu dùng về “công nghệ phương tiện” để tung ra đủ chiêu trò gian lận, khiến thị trường càng thêm hỗn loạn. Bây giờ, thay từ “phương tiện” bằng “trí tuệ nhân tạo” là chúng ta có ngay một bức tranh khá chính xác về thế giới mình đang sống.
8 AI Snake OiI Trí tuệ nhân tạo, hay AI, là thuật ngữ chung để chỉ một nhóm các công nghệ có mối liên quan không chặt chẽ với nhau. Ví dụ, ChatGPT có rất ít điểm tương đồng với phần mềm mà ngân hàng sử dụng để đánh giá người vay. Cả hai đều được gọi là AI, nhưng chúng khác nhau hoàn toàn – từ cơ chế hoạt động, mục đích sử dụng, nhóm người dùng cho đến cách chúng mắc lỗi. Các chatbot, cùng với những công cụ tạo hình ảnh như Dall-E, Stable Diffusion và Midjourney, được xếp vào một nhóm gọi là AI tạo sinh. Loại AI này có thể tạo ra nhiều loại nội dung chỉ trong vài giây: chatbot đưa ra câu trả lời nghe có vẻ hợp lý cho các gợi ý của con người, còn trình tạo ảnh tạo ra các hình ảnh trông như ảnh chụp cho gần như mọi mô tả, chẳng hạn “một con bò trong bếp mặc áo len hồng”. Một số ứng dụng khác còn có thể tạo giọng nói, thậm chí là âm nhạc. Công nghệ AI tạo sinh đang phát triển nhanh chóng, với những tiến bộ rõ rệt và xác thực. Nhưng thật ra đây vẫn là một sản phẩm còn non trẻ, chưa đủ tin cậy và dễ bị khai thác sai mục đích. Đồng thời, sự phổ biến của nó còn đi kèm với nhiều lời quảng cáo thổi phồng, nỗi lo sợ và sự nhiễu loạn thông tin. Trái ngược với AI tạo sinh là AI dự đoán, tạo ra các dự đoán về tương lai để hỗ trợ việc ra quyết định trong hiện tại. Trong lĩnh vực trị an, AI có thể ước lượng: “Ngày mai sẽ có bao nhiêu vụ phạm tội trong khu vực này?”. Trong hoạt động quản lý kho vận, AI có thể tính toán: “Khả năng hỏng hóc của thiết bị này trong tháng tới là bao nhiêu?”. Trong phạm vi tuyển dụng, AI có thể đánh giá: “Ứng viên này sẽ thể hiện ra sao nếu được tuyển dụng?”.
AI - Lợi và Hại 9 Hiện nay, cả doanh nghiệp lẫn chính phủ đều đang sử dụng AI dự đoán, nhưng điều đó không có nghĩa là nó thực sự hiệu quả. Thật khó mà dự đoán tương lai, và AI không làm thay đổi được thực tế này. Đúng là AI sẽ phân tích dữ liệu để nhận diện các mẫu thống kê lớn – chẳng hạn, người sở hữu một công việc có xu hướng trả nợ đúng hạn – và điều này có thể hữu ích. Vấn đề là AI dự đoán thường được chào bán kèm theo những lời quảng cáo phóng đại và người ta sử dụng nó để đưa ra các quyết định ảnh hưởng đến cuộc sống và sự nghiệp của nhiều người. Đây chính là lĩnh vực mà “trò bịp AI” xuất hiện nhiều nhất. “Trò bịp AI” là AI không và không thể hoạt động đúng như những gì được quảng cáo. Vì AI là một khái niệm đề cập đến hàng loạt công nghệ và ứng dụng khác nhau, hầu hết chúng ta chưa được trang bị đầy đủ kiến thức để phân biệt rõ đâu là loại AI có hiệu quả thực sự như hứa hẹn, và đâu chỉ là sản phẩm của chiêu trò tiếp thị. Đây là một vấn đề lớn của xã hội: để tận dụng tối đa những giá trị mà AI mang lại, đồng thời tránh được những hiểm họa tiềm ẩn – mà nhiều hiểm họa trong số đó đã và đang xảy ra – chúng ta cần có khả năng phân định rõ ràng giữa thực tế và ảo tưởng. Quyển sách này sẽ đóng vai trò như một cẩm nang giúp bạn nhận diện “trò bịp AI” và những lời quảng cáo thổi phồng về công nghệ này. Chúng tôi sẽ cung cấp cho bạn vốn từ vựng nền tảng để phân biệt AI tạo sinh, AI dự đoán và các loại AI khác. Chúng tôi cũng sẽ chia sẻ các phương pháp thực tiễn để bạn đánh giá mức độ tin cậy của một tuyên bố nào đó về sự tiến bộ của AI. Nhờ vậy, bạn sẽ đủ khả năng tiếp cận các tin tức
10 AI Snake OiI về AI với sự hoài nghi có cơ sở và chú ý được những chi tiết bị che khuất. Việc hiểu sâu hơn về AI không chỉ giúp thỏa mãn trí tò mò khoa học, mà còn mang lại những ý tưởng thực tế về cách ứng dụng – hoặc tránh sử dụng – AI trong đời sống và công việc. Cuối cùng, chúng tôi sẽ lập luận rằng AI dự đoán không chỉ đang hoạt động kém hiệu quả trong hiện tại, mà còn có thể không bao giờ hiệu quả được như kỳ vọng, do những giới hạn vốn có trong việc dự đoán hành vi con người. Chúng tôi hy vọng rằng quyển sách này sẽ khiến bạn suy nghĩ về trách nhiệm của chính mình, cũng như cơ hội để tạo ra sự thay đổi, với những tác động tiêu cực của các công cụ này. Bình minh của AI với tư cách một sản phẩm tiêu dùng Lần đầu tiên AI tạo sinh thu hút được sự chú ý rộng rãi của công chúng là khi ChatGPT ra mắt vào tháng Mười Một năm 2022. Ban đầu, nhà phát triển OpenAI không hề quảng bá rầm rộ mà chỉ coi đó là một “bản thử nghiệm ban đầu”1i. Tuy nhiên, ChatGPT đã nhanh chóng trở nên phổ biến khi người dùng chia sẻ những ví dụ vừa hài hước vừa đáng kinh ngạc về khả năng của nó. Chẳng hạn, lập trình viên Thomas Ptacek đã yêu cầu viết một đoạn văn theo phong cách Kinh Thánh, bản dịch Vua James, mô tả cách lấy một chiếc bánh kẹp bơ đậu phộng ra khỏi đầu phát VCR2. Kết quả ChatGPT đưa ra như sau: i Các chú thích đánh số tự nhiên dẫn đến Nguồn tham khảo ở cuối sách. Các chú thích đánh số La Mã ở chân trang là phần lưu ý thêm của tác giả, hoặc của First News (có ghi chú: FNs), để độc giả tiện theo dõi.
AI - Lợi và Hại 11 Và thế là một người gặp rắc rối với một chiếc bánh kẹp bơ đậu phộng, vì nó đã bị đặt vào đầu phát VCR của anh ta, và anh ta không biết làm cách nào để lấy nó ra. Và anh ta kêu lên với Chúa rằng: “Ôi Chúa ơi, làm sao con có thể lấy chiếc bánh kẹp này ra khỏi đầu phát VCR của con, vì nó đã kẹt cứng và không thể nhúc nhích?”. Và Chúa phán cùng anh ta rằng: “Đừng sợ, con ta, vì ta sẽ hướng dẫn bàn tay con và chỉ cho con đường đúng. Hãy lấy dao trét bơ, nhẹ nhàng chèn vào giữa chiếc bánh kẹp và đầu phát VCR, rồi từ từ tách chúng ra. Với sự kiên nhẫn và quyết tâm, chiếc bánh kẹp sẽ được lấy ra, và đầu phát VCR của con sẽ được cứu”. Và người ấy làm theo lời Chúa phán truyền, và kìa, chiếc bánh kẹp đã được lấy ra khỏi đầu phát VCR, và người ấy đã được cứu. Và Chúa phán rằng: “Ta bảo thật với con, đừng đặt những chiếc bánh kẹp bơ đậu phộng của con vào đầu phát VCR, vì đó không phải là nơi thích hợp cho những thứ như vậy. Thay vào đó, hãy để bánh kẹp của con trong tủ lạnh hoặc trên dĩa, nơi chúng thuộc về”. Và người đàn ông nghe theo lời Chúa, và từ đó, anh ta để bánh kẹp của mình ở đúng chỗ, và được cứu khỏi những rắc rối và khổ đau. Amen. Chỉ hai tháng sau khi ra mắt, ứng dụng thông báo đã đạt hơn 100 triệu người dùng3, một con số khiến cho chính OpenAI cũng phải bất ngờ. Công ty thậm chí không có đủ
12 AI Snake OiI năng lực tính toán để xử lý khối lượng truy cập khổng lồ mà ChatGPT tạo ra. Giới lập trình viên nhanh chóng đón nhận công cụ này, vì nó tỏ ra khá hiệu quả trong việc tạo ra những đoạn mã lập trình chỉ từ một đoạn mô tả bằng ngôn ngữ. Trên thực tế, trước đó họ vẫn quen sử dụng một công cụ tên là GitHub Copilot, cũng dựa trên công nghệ tương tự, nhưng sự xuất hiện của ChatGPT đã giúp việc ứng dụng AI vào lập trình trở nên phổ biến hơn hẳn. Nó rút ngắn đáng kể thời gian phát triển các ứng dụng. Giờ đây, ngay cả những người không chuyên cũng có thể tạo ra một số ứng dụng đơn giản. Microsoft nhanh chóng mua bản quyền công nghệ từ OpenAI và tích hợp nó vào công cụ tìm kiếm Bing. Dù đã xây dựng chatbot riêng từ năm 2021, Google vẫn chưa kịp phát hành hoặc tích hợp nó vào sản phẩm của mình4. Khi Bing nhập cuộc, Google buộc phải vội vàng công bố chatbot tìm kiếm có tên là Bard (sau đổi thành Gemini). Đây là lúc mọi thứ bắt đầu trật nhịp. Trong video quảng bá Bard, chatbot này tuyên bố rằng kính viễn vọng không gian James Webb đã chụp bức ảnh đầu tiên về một hành tinh ngoài Hệ Mặt Trời. Một nhà thiên văn học đã nhanh chóng chỉ ra thông tin này là sai5. Có vẻ như Google thậm chí còn không thể chọn ra một ví dụ chính xác. Giá trị thị trường của Google ngay lập tức sụt giảm 100 tỷ đô-la, do các nhà đầu tư lo ngại rằng nếu Bard được tích hợp vào công cụ tìm kiếm này như lời hứa, chất lượng kết quả có thể giảm sút nghiêm trọng6.
AI - Lợi và Hại 13 Tuy sự lúng túng của Google gây tốn kém rất nhiều, nhưng đó cũng chỉ là một gợn sóng nhỏ báo hiệu những con sóng lớn hơn sinh ra từ khó khăn cố hữu của chatbot: độ xác thực thông tin. Điểm yếu này bắt nguồn từ cách chúng được xây dựng. Chúng học các mô hình thống kê từ dữ liệu huấn luyện – chủ yếu thu thập từ Internet – sau đó tạo ra văn bản pha trộn dựa trên các mô hình đó. Nhưng vấn đề là chúng không thực sự “nhớ” thông tin đã học. Chúng ta sẽ tìm hiểu sâu hơn ở Chương 4. Việc lạm dụng công nghệ này ngày càng lan rộng. Nhiều trang tin tức bị phát hiện cho đăng những bài viết đầy sai sót do AI tạo ra về các chủ đề quan trọng, như tư vấn tài chính, và họ vẫn tiếp tục sử dụng AI ngay cả khi những sai sót này bị phát hiện7. Amazon tràn ngập sách do AI viết, kể cả một số sách hướng dẫn nhận biết nấm – lĩnh vực mà lỗi sai có thể gây chết người nếu độc giả tin theo nội dung trong sách8. Chúng ta có thể dễ dàng nhìn vào tất cả những khiếm khuyết và việc lạm dụng chatbot này rồi kết luận rằng thế giới đang phát điên phát cuồng vì một công nghệ có khả năng thất bại rất lớn. Nhưng kết luận như vậy là quá đơn giản. Chúng tôi tin rằng hầu hết các ngành nghề tri thức đều có thể khai thác chatbot theo cách có lợi. Bản thân chúng tôi cũng sử dụng chúng để hỗ trợ nghiên cứu, từ những tác vụ tầm thường như định dạng trích dẫn đúng cách, cho đến những công việc mà chúng tôi không thể tự làm, như giải mã một bài nghiên cứu đầy thuật ngữ chuyên môn trong một lĩnh vực xa lạ.
14 AI Snake OiI Vấn đề là muốn khai thác hiệu quả chatbot thì phải thực hành và nỗ lực, đồng thời tránh được những cạm bẫy thường trực của chúng. Còn sử dụng sai mục đích thì lại dễ dàng hơn nhiều – nhất là với những người muốn kiếm tiền nhanh chóng, chẳng hạn bằng cách xuất bản sách do AI tạo ra mà không màng đến chất lượng nội dung. Đó là lý do chatbot rất dễ bị lạm dụng. Còn một vấn đề hóc búa hơn liên quan đến quyền lực. Giả sử các công cụ tìm kiếm thay thế danh sách mười liên kết truyền thống bằng các câu trả lời do AI tạo ra. Ngay cả khi giải quyết được vấn đề độ chính xác, kết quả cho ra về cơ bản vẫn là một cỗ máy viết lại nội dung sao chép từ các trang web khác, trình bày như thể đó là nội dung gốc, mà không chuyển hướng lưu lượng truy cập hay doanh thu cho các trang web kia. Nếu các công cụ tìm kiếm tự ý hiển thị nội dung của người khác mà mặc nhiên xem như của mình, họ sẽ vi phạm luật bản quyền. Nhưng cho đến nay, câu trả lời do AI tạo ra dường như vẫn lách được vấn đề này, mặc dù tính đến năm 2024, đã có nhiều vụ kiện nhằm thay đổi tình trạng nói trên9. AI đang làm rung chuyển ngành giải trí Một công nghệ AI tạo sinh khác cũng đã thu hút sự chú ý mạnh mẽ là “tạo hình ảnh từ văn bản” (text-to-image). Đến giữa năm 2023, ước tính đã có hơn một tỷ hình ảnh được tạo ra bằng các công cụ như DALL-E 2 của OpenAI, Firefly của Adobe và Midjourney (thuộc về công ty cùng tên)10. Một công cụ
AI - Lợi và Hại 15 nổi bật khác là Stable Diffusion của Stability AI. Đây là phần mềm mã nguồn mở, cho phép người dùng tự do tùy chỉnh theo nhu cầu. Các công cụ dựa trên Stable Diffusion đã được tải xuống hơn 200 triệu lần. Vì người dùng chạy phần mềm trên thiết bị riêng nên không có số liệu tập trung về số lượng hình ảnh được tạo ra, nhưng con số này có thể lên đến vài tỷ. Công cụ tạo hình ảnh đã mở ra một trận đại hồng thủy nội dung giải trí11. Khác với các sản phẩm giải trí truyền thống, hình ảnh do AI tạo ra có thể được cá nhân hóa vô hạn theo sở thích của mỗi người dùng. Có người thích những khung cảnh thiên nhiên hoặc đô thị kỳ ảo; có người lại say mê các bức ảnh tái hiện nhân vật lịch sử trong bối cảnh hiện đại, hoặc người nổi tiếng làm những việc khác với bình thường, ví dụ nổi tiếng là Đức Giáo hoàng mặc áo khoác phao (được đặt cho cái tên “Balenciaga Pope - Giáo hoàng Balenciaga”). Các đoạn trailer giả nhiều bộ phim nổi tiếng như Star Wars theo phong cách đặc trưng của Wes Anderson – với bố cục đối xứng, tông màu phấn tiên và bối cảnh siêu thực – cũng rất được ưa chuộng. Không chỉ những người thích giải trí mới thấy phấn khích với AI tạo sinh hình ảnh: các ứng dụng giải trí này đang trở thành một ngành kinh doanh phát triển mạnh. Nhiều công ty trò chơi điện tử tạo ra những nhân vật trong game có thể trò chuyện tự nhiên với người chơi12. Nhiều ứng dụng chỉnh sửa ảnh hiện đã tích hợp tính năng AI tạo sinh, cho phép người dùng yêu cầu những chỉnh sửa như thêm bong bóng vào bức ảnh chụp một bữa tiệc sinh nhật.
16 AI Snake OiI AI cũng trở thành một vấn đề gây tranh cãi lớn trong các cuộc đình công của Hollywood vào năm 202313. Giới diễn viên lo ngại hãng phim có thể sử dụng cảnh quay trước đây của họ để huấn luyện các công cụ AI, từ đó tạo ra những video mới dựa trên kịch bản – những video trông như thể họ xuất hiện trong đó, nhưng thực chất chỉ là sản phẩm của AI. Nói cách khác, hãng phim có thể tiếp tục kiếm lợi nhuận từ hình ảnh và công sức của diễn viên mà không cần trả thù lao. Các cuộc đình công đã chấm dứt, nhưng căng thẳng giữa lao động và tư bản thì chắc chắn còn tiếp diễn, nhất là khi công nghệ sẽ còn tiến bộ14. Nhiều công ty đang phát triển công cụ tạo video từ văn bản, trong khi một số khác đang tìm cách tự động hóa quá trình viết kịch bản. Những sản phẩm này có thể không đạt độ phức tạp hay giá trị nghệ thuật cao, nhưng chẳng hề gì với các hãng phim đang cần tung ra một bom tấn mùa hè. Về lâu dài, chúng tôi tin rằng sự kết hợp giữa công nghệ và luật pháp có thể giúp giảm nhẹ phần lớn các vấn đề ta đang nói đến, đồng thời khuếch đại những lợi ích. Ví dụ, có nhiều ý tưởng công nghệ hứa hẹn giúp chatbot hạn chế việc bịa đặt thông tin, trong khi các quy định pháp lý có thể đóng vai trò ngăn chặn những hành vi cố ý lạm dụng. Tuy vậy, trong ngắn hạn, việc thích nghi với một thế giới có AI tạo sinh vẫn là một thách thức thực sự, bởi lẽ các công cụ này vừa cực kỳ mạnh mẽ, vừa không đáng tin cậy. Nó giống như thể bất ngờ trao miễn phí cho cả thế giới một chiếc cưa máy mà không kèm hướng dẫn sử dụng.
AI - Lợi và Hại 17 Chúng ta cần nỗ lực để tích hợp AI một cách hợp lý vào đời sống. Một ví dụ điển hình là những gì đang diễn ra trong lĩnh vực giáo dục, khi AI có thể viết bài luận và vượt qua các kỳ thi đại học. Cần khẳng định rõ: AI không phải là mối đe dọa đối với giáo dục, nó chẳng khác nào máy tính cầm tay thời mới xuất hiện15. Nếu được giám sát đúng đắn, AI có thể trở thành một công cụ học tập quý giá. Nhưng để đạt được điều đó, giáo viên cần phải cải tổ chương trình, phương pháp giảng dạy và cả cách thức kiểm tra, đánh giá. Tại các trường có nguồn quỹ lớn như Princeton, nơi chúng tôi giảng dạy, đây là một cơ hội thay vì thách thức. Trên thực tế, chúng tôi khuyến khích sinh viên sử dụng AI. Còn ở nhiều nơi khác, ChatGPT lại đột ngột trở thành một công cụ có nguy cơ bị hàng triệu sinh viên lợi dụng để gian lận. Liệu xã hội sẽ mãi chỉ phản ứng thụ động trước những tiến bộ mới trong lĩnh vực AI tạo sinh? Hay chúng ta có thể tập hợp đủ ý chí để thực hiện những thay đổi mang tính cấu trúc, giúp phân bổ công bằng hơn những lợi ích và chi phí cực kỳ không đồng đều từ những đổi mới này, bất kể chúng là gì? AI dự đoán: một khẳng định phi thường cần bằng chứng phi thường AI tạo sinh chắc chắn đi kèm với nhiều chi phí xã hội và rủi ro, nhất là trong ngắn hạn. Tuy vậy, chúng tôi vẫn lạc quan một cách thận trọng về tiềm năng lâu dài của công nghệ này trong việc cải thiện đời sống của con người. Nhưng AI dự đoán lại là một câu chuyện khác.
18 AI Snake OiI Trong vài năm gần đây, AI dự đoán đã được ứng dụng rộng rãi để dự báo các kết quả xã hội. Các nhà phát triển tuyên bố rằng họ có thể dự đoán hành vi trong tương lai của con người, chẳng hạn một tội nhân có tái phạm hay không, hay một ứng viên có làm tốt công việc hay không. Nhưng khác với AI tạo sinh, AI dự đoán thường không hoạt động chính xác16. Tại Mỹ, những người trên sáu mươi lăm tuổi đủ điều kiện đăng ký Medicare, một chương trình bảo hiểm y tế do nhà nước trợ cấp. Để cắt giảm chi phí, một số đơn vị cung cấp dịch vụ Medicare đã bắt đầu sử dụng AI để ước tính thời gian nằm viện của bệnh nhân17. Những dự đoán này thường thiếu chính xác. Trong một trường hợp, một bệnh nhân tám mươi lăm tuổi được đánh giá là có thể xuất viện sau mười bảy ngày. Nhưng đến thời điểm đó, bà vẫn bị đau nặng và thậm chí không thể tự dùng khung tập đi mà không có sự trợ giúp. Dù vậy, dựa trên đánh giá của AI, các khoản thanh toán bảo hiểm của bà đã bị cắt. Trên lý thuyết, công nghệ này được triển khai với ý định tốt, chẳng hạn như ngăn các cơ sở chăm sóc giữ bệnh nhân lâu hơn để thu thêm phí. Nhưng trong nhiều trường hợp, mục tiêu ban đầu cũng như cách triển khai có thể bị thay đổi theo thời gian. Rất dễ hình dung kịch bản mà ban đầu AI giúp tăng trách nhiệm cho các cơ sở chăm sóc, nhưng rồi nó dần biến thành công cụ để cắt giảm chi phí bất chấp hậu quả. Những câu chuyện tương tự cũng đang xuất hiện ở nhiều lĩnh vực. Trong tuyển dụng, nhiều công ty AI tuyên bố có thể đánh giá các phẩm chất như thân thiện, cởi mở hay tử tế của ứng viên dựa trên ngôn ngữ cơ thể, cách nói chuyện và các đặc điểm
AI - Lợi và Hại 19 bề ngoài khác trong một đoạn video dài ba mươi giây. Liệu điều này có thực sự hiệu quả? Và những đánh giá này có thực sự dự đoán được năng lực làm việc không? Đáng tiếc, các công ty này chưa hề công bố bằng chứng xác thực để chứng minh sản phẩm của họ hiệu quả. Ngược lại, chúng ta có rất nhiều bằng chứng cho thấy việc dự đoán kết quả cuộc đời của một cá nhân là vô cùng khó khăn, như sẽ thảo luận ở Chương 3. Năm 2013, công ty bảo hiểm Allstate muốn sử dụng AI dự đoán để xác định mức phí bảo hiểm tại bang Maryland, Mỹ – với mục tiêu tối đa hóa lợi nhuận mà không làm mất nhiều khách hàng. Kết quả là sự ra đời của một “danh sách nạn nhân”, những người đột ngột bị tăng phí bảo hiểm so với mức phí trước đây18. Đáng chú ý, những người trên sáu mươi hai tuổi chiếm tỷ lệ cao bất thường trong danh sách này, thể hiện sự phân biệt đối xử tự động hóa. Có thể vì nhận thấy người lớn tuổi ít khi khảo giá thị trường, AI đã chọn ra xu hướng đó từ dữ liệu. Mức giá mới có thể giúp công ty tăng doanh thu, nhưng rõ ràng đây là một hành vi phi đạo đức. Bang Maryland đã bác bỏ đề xuất sử dụng công cụ này do tính chất phân biệt đối xử, nhưng Allstate vẫn áp dụng nó ở ít nhất mười bang khác tại Hoa Kỳi. Nếu một cá nhân phản đối việc sử dụng AI trong quy trình tuyển dụng, họ có thể chọn không nộp đơn vào những công ty dùng AI để đánh giá hồ sơ ứng viên. Nhưng khi các chính phủ bắt đầu ứng dụng AI dự đoán, người dân sẽ không có lựa chọn i Nhiều ví dụ trong sách, bao gồm ví dụ trên, xuất phát từ nước Mỹ đơn giản vì đó là nơi chúng tôi sinh sống và làm việc. Tuy nhiên, những bài học rút ra từ các ví dụ này được thiết kế để có tính ứng dụng rộng rãi.
20 AI Snake OiI nào ngoài tuân thủ. (Dù vậy, người ta cũng sẽ dấy lên những lo ngại tương tự nếu nhiều công ty cùng sử dụng một AI để quyết định tuyển dụng.) Nhiều nơi trên thế giới hiện đã sử dụng công cụ ước lượng rủi ro để quyết định có nên cho phép bị cáo tại ngoại trước phiên xét xử hay không. Các hệ thống này không chỉ bị ghi nhận là có thiên kiến – như thiên kiến về chủng tộc, giới tính hoặc độ tuổi – mà còn có vấn đề nghiêm trọng: bằng chứng cho thấy chúng chỉ chính xác hơn một chút so với việc đoán ngẫu nhiên xem một bị cáo có “rủi ro” hay không. Một lý do khiến AI dự đoán hoạt động kém chính xác là dữ liệu không phản ánh hết các yếu tố quan trọng. Hãy xem xét ba bị cáo có cùng đặc điểm mà AI sử dụng để đánh giá: tuổi tác, số lần phạm tội trước đây và số thành viên trong gia đình có tiền án. Cả ba bị cáo này sẽ được gán cho một điểm số rủi ro như nhau. Tuy nhiên, trong ví dụ này có một người thực sự hối lỗi, một người bị cảnh sát bắt nhầm, còn người thứ ba đang nuôi ý định tiếp tục phạm tội. Không có cách nào hiệu quả để một công cụ AI cân nhắc được những khác biệt ấy. Một nhược điểm khác của AI dự đoán là nó không hiệu quả khi đối tượng có động cơ mạnh mẽ để “lách luật”. Ví dụ, AI từng được sử dụng để ước tính bệnh nhân suy thận có thể sống bao lâu sau phẫu thuật ghép thận19. Logic ở đây là những người có khả năng sống lâu nhất sau cấy ghép sẽ được ưu tiên nhận tạng. Trớ trêu thay, điều này lại dẫn đến một hệ quả bất ngờ: một số bệnh nhân không muốn duy trì chức năng thận của mình một cách tích cực, vì nếu thận của họ bị suy khi tuổi còn trẻ, họ sẽ có cơ hội được ghép tạng cao hơn. Rất may, quá trình
AI - Lợi và Hại 21 xây dựng hệ thống này diễn ra trong một khuôn khổ phản biện nghiêm túc, có sự tham gia của bệnh nhân, bác sĩ và các bên liên quan. Nhờ vậy, vấn đề về sự sai lệch trong động cơ hành vi đã được nhận diện kịp thời, và việc sử dụng AI dự đoán để phân bổ thận đã bị loại bỏ. Chúng ta sẽ còn thấy nhiều ví dụ khác về thất bại của AI dự đoán ở Chương 2 và Chương 3. Liệu tình hình có thể cải thiện theo thời gian không? Đáng tiếc, chúng tôi không nghĩ vậy. Nhiều sai sót của AI dự đoán vốn là bản chất của nó. Ví dụ, AI dự đoán hấp dẫn vì sự tự động hóa giúp quá trình ra quyết định trở nên hiệu quả hơn, nhưng chính sự “hiệu quả” đó lại dẫn đến thiếu vắng trách nhiệm giải trình. Vì vậy, chúng ta cần tỉnh táo trước những tuyên bố đầy tham vọng của các công ty AI dự đoán, trừ phi chúng đi kèm với bằng chứng vững chắc. Nhìn AI dưới một lăng kính duy nhất: dễ nhưng không chính xác AI tạo sinh và AI dự đoán là hai loại AI chính được nhắc đến nhiều nhất hiện nay. Nhưng còn có bao nhiêu loại AI khác nữa? Không có câu trả lời rõ ràng, vì cho đến nay vẫn chưa có sự đồng thuận về điều gì được coi là AI và điều gì không. Dưới đây là ba câu hỏi có thể giúp chúng ta xác định một hệ thống máy tính thực hiện tác vụ có được gọi là AI hay không. Mỗi câu hỏi chạm đến một khía cạnh của khái niệm AI, nhưng không câu nào cung cấp một định nghĩa đầy đủ.
Mục lục Lời tựa 4 Chương 1 - GIỚI THIỆU 7 Bình minh của AI với tư cách một sản phẩm tiêu dùng 10 AI đang làm rung chuyển ngành giải trí 14 AI dự đoán: một khẳng định phi thường cần bằng chứng phi thường 17 Nhìn AI dưới một lăng kính duy nhất: dễ nhưng không chính xác 21 Một chuỗi sự kiện kỳ lạ đã dẫn đến quyển sách này 29 Vòng xoáy thổi phồng về AI 33 Trò bịp AI (AI snake oil) là gì? 40 Quyển sách này dành cho ai? 47 Chương 2 - AI DỰ ĐOÁN SAI LẦM NHƯ THẾ NÀO 49 AI dự đoán đưa ra các quyết định thay đổi cuộc đời 52 Một dự đoán tốt chưa chắc là một quyết định đúng 58 AI mờ ám khuyến khích hành vi “lách luật” 61 Tự động hóa quá mức 65
452 AI Snake OiI Dự đoán sai người 68 Khi AI dự đoán làm gia tăng sự bất bình đẳng hiện có 71 Một thế giới không có dự đoán 75 Vài ý kết luận 78 Chương 3 - TẠI SAO AI KHÔNG THỂ DỰ ĐOÁN TƯƠNG LAI? 81 Lược sử về việc dùng máy tính dự đoán tương lai 84 Đi vào chi tiết cụ thể 90 Thử thách Gia đình dễ tổn thương 94 Tại sao Thử thách Gia đình dễ tổn thương lại kết thúc trong thất vọng? 98 Dự đoán trong lĩnh vực tư pháp hình sự 104 Thất bại thì khó. Vậy thành công thì sao? 107 Xổ số meme 114 Từ các cá nhân đến các tập hợp 120 Tóm tắt: những lý do giới hạn khả năng dự đoán 129 Chương 4 - CHẶNG ĐƯỜNG DÀI DẪN ĐẾN AI TẠO SINH 133 AI tạo sinh được xây dựng dựa trên một chuỗi dài các cải tiến bắt đầu từ tám mươi năm trước 141 Thất bại và hồi sinh 144 Huấn luyện máy để “nhìn” 148
AI - Lợi và Hại 453 Ý nghĩa kỹ thuật và văn hóa của ImageNet 151 Phân loại và tạo hình ảnh 157 AI tạo sinh và sự chiếm đoạt lao động sáng tạo 163 AI phân loại hình ảnh có thể nhanh chóng trở thành công cụ giám sát 168 Từ hình ảnh đến văn bản 171 Từ mô hình đến Chatbot 176 Tự động hóa bịa chuyện 183 Deepfake, lừa đảo và các hành vi độc hại khác 187 Cái giá của sự cải tiến 188 Tổng kết 192 Chương 5 - AI TIÊN TIẾN CÓ PHẢI LÀ MỐI ĐE DỌA TỚI SỰ TỒN VONG? 197 Các chuyên gia nghĩ gì? 199 Nấc thang tổng quát 205 Điều gì diễn ra tiếp theo trên nấc thang tổng quát? 211 Tiến bộ đang tăng tốc? 215 AI gian xảo? 218 Lệnh cấm toàn cầu đối với AI siêu cấp? 223 Các tiếp cận phù hợp: phòng thủ trước những mối đe dọa cụ thể 226 Suy nghĩ kết luận 230
454 AI Snake OiI Chương 6 - TẠI SAO AI KHÔNG THỂ SỬA CHỮA MẠNG XÃ HỘI? 233 Khi mọi thứ bị đặt ngoài ngữ cảnh 238 Sự thiếu hiểu biết về văn hóa 245 AI vượt trội trong việc dự đoán... quá khứ 252 Khi AI đối đầu với sự sáng tạo của con người 257 Vấn đề sinh tử 262 Hãy xét đến yếu tố quy định pháp lý 268 Vạch ra ranh giới: một vấn đề nan giải 273 Tóm tắt: Bảy hạn chế của AI trong kiểm duyệt nội dung 283 Một vấn đề do chính họ tạo ra 286 Tương lai của kiểm duyệt nội dung 292 Chương 7 - TẠI SAO NHỮNG HUYỀN THOẠI VỀ AI VẪN TỒN TẠI? 299 Sự thổi phồng AI khác với sự thổi phồng công nghệ trước đây 305 Lịch sử và văn hóa thổi phồng trong cộng đồng AI 310 Các công ty có ít động lực để minh bạch 315 Cuộc khủng hoảng về khả năng tái lập trong nghiên cứu AI 319 Truyền thông gây hiểu lầm cho công chúng 326 Những nhân vật của công chúng đang góp phần thổi phồng AI 332 Thiên kiến nhận thức khiến chúng ta lạc lối 337
AI - Lợi và Hại 455 Chương 8 - CHẶNG ĐƯỜNG TIẾP THEO SẼ THẾ NÀO? 341 Trò bịp AI hấp dẫn các tổ chức yếu kém 345 Chấp nhận sự ngẫu nhiên 351 Quy định pháp lý: thoát khỏi cái bẫy lựa chọn sai lầm 354 Những hạn chế của quy định pháp lý 361 AI và tương lai của việc làm 364 Lớn lên cùng AI trong thế giới của Kai 371 Lớn lên với AI trong thế giới của Maya 376 Lời cảm ơn 385 Phụ lục: Những bức thư của Giáo sư JOHN VU về AI 389 Nguồn tham khảo 420
RkJQdWJsaXNoZXIy MjI4NTM1Ng==