Chào bạn đọc
trước khi vào đề tài chính chúng ta lược qua những tin tức hay dị nghị nào đó khiến Sam Altman nhân vật hàng đầu về phát kiến Thông Minh Nhân Tạo AI bị 'hạ bệ' theo Elon Musk thì
Musk đặt câu hỏi về 'điều đáng sợ' khiến Sam Altman bị sa thải
Tỷ phú Elon Musk cho rằng "điều gì đó đáng sợ" đã thúc đẩy Ilya Sutskever, khoa học gia trưởng của OpenAI, hạ bệ CEO Sam Altman.,.Đây là lần thứ hai tỷ phú gốc Nam Phi băn khoăn về lý do thúc đẩy Sutskever tham gia lật đổ CEO OpenAI Sam Altman hôm 17/11.2023...
Ông chủ X ngày 20/11 đặt nghi vấn OpenAI đang phát triển một công nghệ nguy hiểm. "Tôi rất lo lắng. Ilya là người có đạo đức và không ham muốn quyền lực. Ông ấy sẽ không hành động quyết liệt như vậy trừ khi thật cần thiết. Thế giới cần biết nếu OpenAI sở hữu thứ gì đó gây nguy hiểm cho nhân loại", Musk cho hay.
Khi một người dùng X cho rằng có "biến số bùng nổ" tại OpenAI chưa được tiết lộ với công chúng, Musk đáp: "Chính xác".
Elon Musk từ lâu đã cảnh báo về hiểm họa của AI đối với nhân loại, dù vẫn khẳng định công nghệ này có nhiều điểm tốt và phát triển sản phẩm cạnh tranh với ChatGPT.
Ông là người đồng sáng lập OpenAI năm 2015 và giúp thu hút nhiều nhân tài chủ chốt, trong đó có Sutskever, nhưng rời công ty sau đó vài năm vì bất đồng. Tỷ phú than phiền rằng OpenAI từng được kỳ vọng là tổ chức phi lợi nhuận đối trọng với thế thống trị AI của Google, nhưng đã trở thành "công ty mã nguồn đóng, theo đuổi lợi nhuận tối đa do Microsoft kiểm soát".
Sutskever là nhà đồng sáng lập kiêm nhà khoa học trưởng của OpenAI. Sự khác biệt trong định hướng phát triển AI của ban quản trị và CEO được cho là nguyên nhân khiến Altman bị sa thải hôm 17/11. Đến 20/11, hơn 700 nhân viên công ty, trong đó có Sutskever, đồng loạt ký vào thư dọa nghỉ việc trừ khi Altman quay về.(và nay Sam Altman đã trở lại)
Sutskever, nhân vật chính đứng sau vụ lật đổ, bày tỏ hối hận về hành động trước đó của mình. Ông không có chân trong hội đồng quản trị mới, nhưng vẫn là nhà khoa học trưởng, phụ trách nghiên cứu và phát triển các sản phẩm của công ty.
OpenAI không hé lộ nguyên nhân sa thải Altman, nhưng Reuters dẫn nguồn nội bộ cho biết CTO OpenAI Mira Murati nói với nhân viên rằng một bức thư mật, do một số nhà nghiên cứu OpenAI gửi tới hội đồng quản trị cũ, về bước đột phá của dự án Q* (Q-Star) đã thúc đẩy họ hành động và ra quyết định hạ bệ Altman...(trích từ vnexpress)
| Born | Samuel H. Altman April 22, 1985 Chicago, Illinois, U.S. |
|---|---|
| Education | Stanford University (dropped out) |
| Occupation | Entrepreneur |
| Known for | Loopt, Y Combinator, OpenAI |
| Title | CEO of OpenAI LP and former president of Y Combinator |
"Nghiêm túc mà nói, Ilya đã phát hiện ra điều gì?", nhà đầu tư mạo hiểm Marc Andreessen viết trên X hôm 24/11.
Sau đó, Musk tỏ ý đồng tình trong phần trả lời bên dưới: "Đúng vậy! Điều gì đó đáng sợ đến mức Ilya muốn sa thải Sam. Đó là gì vậy?".
TRÍ TUỆ NHÂN TẠO (AI) ĐẠO ĐỨC VÀ LỢI NHUẬN
KHOẢNH KHẮC QUYẾT ĐỊNH CỦA CON NGƯỜI VỀ TRÍ THÔNG MINH NHÂN TẠO…CÔNG CỤ HỮU ÍCH HAY QUẢ BOM HẸN GIỜ ?
AI's make-or-break moment Is it a handy tool — or a ticking time bomb?
HASAN CHOWDHURY / phóng viên của tờ Business Insider
Hasan Chowdhury từng viết về các đề tài liên quan đến các đại công ty điện toán và mạng xã hội tại Thung lũng Silicon như Apple, Google, Meta, Microsoft, Netflix, OpenAI, Tesla và Twitter. Ông cũng không bỏ qua công nghệ mới nổi trội như Trí Thông Minh Nhân Tạo (AI) thế hệ mới cùng THỰC TẾ ẢO. Ông còn viết các bài vở trong vấn đề toàn cầu trong lĩnh vực đầu tư mang nhiều rủi ro và mạo hiểm
***
Vào đầu năm 2012, lúc Sam Altman ngừng hoạt động công ty khởi nghiệp đầu tiên của ông, có rất ít dấu hiệu cho thấy con đường phía trước của ông sẽ đi song song với con đường của Mark Zuckerberg, một kẻ thường bị nghĩ là khờ khạo tại Thung lũng Silicon.
Trong khi Altman đang cân nhắc các bước đi tiếp theo sau khi đóng cửa công ty khởi nghiệp Loopt, thì CEO của Facebook đi đầu trong việc tiếp quản toàn cầu phương tiện truyền thông xã hội cùng dẫn dắt công ty của Zuckerberg Mark tiến lên với đợt ra mắt công chúng qua thành công vang dội. Rồi đứa con tinh thần của Zuckerberg được định giá 104 tỷ USD.
Nhưng chỉ hơn một thập niên sau, tình thế đã thay đổi một cách gay cấn. Ngày nay, lời hứa về phương tiện truyền thông xã hội- một lực lượng thống nhất vì những điều tốt đẹp gần như đã sụp đổ và Zuckerberg đang cắt giảm hàng nghìn việc làm sau khi công ty của anh chuyển hướng mạnh mẽ sang metaverse (từ 86,000 năm 2022 và năm nay sẽ còn 66,000 jobs). Và đó là Altman, 37 tuổi, một sinh viên đại học Stanford, bỏ học giữa chừng, hiện là ngôi sao vươn lên và nổi trội một cách không ngờ.— nhưng cũng từ đây sẽ là là người phải đối mặt với những cạm bẫy của quyền lực bao trùm.
Kể từ khi ChatGPT ra mắt ra công chúng vào tháng 11năm nay (2022) một mô hình trí tuệ nhân tạo, có thể viết văn xuôi, mã, v.v., có thể được coi là thứ công nghệ uy lực nhất — do không thể đoán trước — trong thế hệ của Altman. Nó có thể là một mỏ vàng cho Altman, dẫn đến một khế ước trị giá hàng tỷ đô la trong nhiều năm đến từ Microsoft và có sức thu hút 100 triệu người dùng trong hai tháng đầu tiên. Tốc độ tăng trưởng vượt xa bước tiến của TikTok và Instagram, khiến nó trở thành ứng dụng điện toán phát triển nhanh nhất trong lịch sử Internet.
Chẳng khác gì mạng xã hội vào năm 2012, ngành công nghiệp trí tuệ nhân tạo (AI) đang đứng trước ngưỡng cửa của sự thay đổi to lớn, còn có thể nói là vĩ đại là đàng khác. Trong lúc các mạng xã hội tiếp tục tái định hình thế giới chúng ta chỉ trong vòng 10 năm tới đây, các chuyên gia nói với tôi (tác giả) rằng hậu quả của con đường tiếp theo của AI sẽ còn lớn hơn rất nhiều. Theo các nghiên cứu gia, mô hình AI hiện tại hầu như không làm trầy xước bề mặt tiềm năng của công nghệ. Và khi Altman và nhóm của ông tiến lên, về căn bản AI có thể tái định hình nền kinh tế và cuộc sống của con người thậm chí còn hơn hẳn các mạng xã hội hiện tại.
Giám đốc nghiên cứu nền tảng về AI tại Viện Turing thuộc Vương Quốc Anh là giáo sư Michael Woodridge cho biết: “AI có tiềm năng trở thành một công nghệ biến đổi xã hội con người giống như internet, truyền hình, đài phát thanh, báo chí, nhưng chúng ta chưa tưởng tượng ra nổi người ta sẽ sử dụng nó ra sao?"
Thành tích của Zuckerberg tại Facebook chứng minh rằng- việc buông lỏng công nghệ có thể gây ra những hậu quả ghê gớm — nếu Trí Thông Minh Nhân Tạo- AI không được kiểm soát hoặc nếu con người CHỈ ƯU TIÊN chuyện TĂNG TRƯỞNG HƠN LO LẮNG CHO SỰ AN TOÀN THÌ HẬU QUÁ KHÓ LƯỜNG DO KHÔNG KHẮC PHỤC ĐƯỢC.
Công nghệ dĩ nhiên mang tính cách mạng, nhưng được thực hiện một cách nguy hiểm. Dan J. Wang, hiện nay là phó giáo sư về môn kinh doanh và xã hội học tại Trường Kinh doanh Columbia, ông từng lái xe ngang qua văn phòng Altman's Loopt tại thành phố Palo Alto, bắc California. Lúc thời còn là sinh viên đại học Stanford. Altman nói với tôi (tác giả) rằng Dan thấy có nhiều điểm tương đồng giữa Altman và Zuckerberg:
Cặp đôi này (Altman và Zuckerberg) là "những tay tổ truyền bá công nghệ" và cũng là "những nhà lãnh đạo có sức thuyết phục thực sự". Đó là những người có thể giành được niềm tin của bá tánh.. Nhưng những gì họ thiếu trong tính độc đáo, họ bù đắp bằng khả năng chấp nhận rủi ro. Wang cho biết cả Zuckerberg và Altman đều sẵn sàng mở rộng việc sử dụng công nghệ mới với tốc độ nhanh hơn nhiều so với những người tiền nhiệm đầy tính thận trọng.
Nhưng ranh giới LỢI- HẠI giữa vấn đề tung ra công nghệ tiên tiến để cải thiện cuộc sống mọi người và vấn đề để một sản phẩm chưa được thử nghiệm lọt vào tay công chúng từng hết lòng đặt niềm tin tưởng vào công nghệ dù rất mong manh? Hồ sơ theo dõi của Zuckerberg cho khá nhiều ví dụ về việc nó có thể sai lầm ra sao. Kể từ khi Facebook phát hành cổ phiếu lần đầu ra công chúng vào năm 2012, FB đã tung ra hàng chục sản phẩm của mình trên mạng xã hội, đồng thời có ảnh hưởng sâu sắc đến cả thế giới. Chúng ta ắt nhớ lại vụ bê bối Cambridge Analytica đã phơi bày các vấn đề va chạm về quyền riêng tư khi thu thập dữ liệu cá nhân của hàng tỷ người; thứ đến chúng ta phải lo sợ việc sử dụng Facebook từng tạo điều kiện cho bạo lực như nạn diệt chủng ở Myanmar và cuộc Bạo Loạn ở Đồi Capitol QH Hoa Kỳ cho thấy thông tin sai lệch độc hại (thuyết âm mưu) trên các nền tảng xã hội nó rõ ràng nguy hiểm như thế nào; và tác hại của các dịch vụ như Instagram đối với sức khỏe tâm thần đã đặt ra nhiều câu hỏi gay gắt về vai trò của mạng xã hội trong cuộc sống hàng ngày của công chúng.
Danh tiếng của Facebook đã bị tổn hại chính là hậu quả đến từ việc công ty này chỉ lo chạy đua cho kịp với đà gia tăng số người tiêu dùng. Ai là cơ quan quản lý và nhà đầu tư, những người này không hiểu được hậu quả mang lại do hàng tỷ người tiếp xúc trực tuyến trên quy mô và tốc độ chưa hề xảy ra trước đó. Tuy Cty Facebook và Zuckerberg đã xin lỗi về những sai lầm của họ - nhưng không xin lỗi hay nhận ra sai lầm về chủ tâm ráo riết tiếp cận và có thể nói 'mê hoặc' công chúng như một loại hình tôn giáo nào đó đến từ giàn lãnh đạo của các công ty. Họ là hiện thân của câu thần chú "di chuyển chớp nhoáng + công phá mọi thứ" của công nghệ. Nếu phương tiện truyền thông xã hội như thế phơi bày những xung lực tồi tệ nhất của nhân loại trên quy mô lớn, thì chính TRÍ TUỆ NHÂN TẠO là một động cơ đầy áp lực đẩy nhanh sự lây lan sai lầm do con người sáng tạo ra.
Một chuyên gia tên là Margaret Mitchell có nói, “Thực tế là công nghệ AI thế hệ mới đã ra đời nhưng không có nhiều thẩm xét không có cơ chế nào đưa tới sự đồng ý- chính đó là hệ quả của ý tưởng DI CHUYỂN CHỚP NHOÁNG CÔNG PHÁ MỌI THỨ”
. Một khoa học gia nghiên cứu AI, người đồng sáng lập bộ phận đạo đức AI tại Google, cho chúng ta hay:
Đối với Heidy Khlaaf, giám đốc của công ty an ninh mạng và an toàn Trail of Bits, đồng thời là cựu kỹ sư an toàn hệ thống tại OpenAI, ông cho rằng hiện các công ty chủ yếu cường điệu về AI, họ phóng đại công nghệ vì lợi nhuận, ưu tiên giá trị thương mại hơn là lo ngại về tác động xã hội về sau…ai cũng đang cố gắng triển khai và thực hiện AI mà không hiểu những rủi ro mà rất nhiều nhà nghiên cứu thực sự tuyệt vời đã xem xét trong ít nhất 5 năm qua. Quý vị không nên cho Công nghệ mới ra thế giới bên ngoài nếu công nghệ đó có thể gây ra tác hại về sau.
Điều này sẽ là cảnh báo rõ ràng cho Altman, OpenAI và phần còn lại của ngành công nghiệp trí tuệ nhân tạo.
LỢI HẠI VỀ TRÍ TUỆ NHÂN TẠO chẳng khác gì chuyện KHUI CHIẾC HỘP PANDORA ( cái hộp của rắc rối- xui xẻo)
===========
NHÓM TỪ hay THÀNH NGỮ "MỞ CHIẾC HỘP PANDORA " cùng nghĩa mang lại Rắc Rối Xui Xẻo. Đây là điển tích được dùng mô tả một hành động có thể gây ra những hậu quả rắc rối và phiền toái về sau. Điển tích bắt nguồn từ một câu chuyện thần thoại người Hy Lạp, ngày xưa có người phụ nữ Pandora, do tò mò, hay bị ma quỷ cám dỗ, đã mở một chiếc lọ (hoặc một chiếc hộp) chứa nhiều thứ xấu xa mà con người đánh mất từ lâu
================
Cán cân quyền lực giữa đạo đức và lợi nhuận trong ngành đang bắt đầu chuyển sang một hướng khác. Sau khi nhận được khoản đầu tư từ Microsoft có trị giá hàng tỷ đô la vào tháng 1, công ty OpenAI hiện được đồn đại là trị giá 30 tỷ đô la và đã không lãng phí thời gian để thương mại hóa công nghệ của mình. Microsoft đã công bố việc tích hợp công nghệ của OpenAI vào công cụ tìm kiếm Bing của mình vào ngày 7 tháng 2 và cho biết họ có kế hoạch đưa AI vào các sản phẩm khác của Microsoft.
Hành động đó lập tức châm ngòi cho một cuộc chạy đua vũ trang về trí tuệ nhân tạo . Tiếp nối đại gia Google, trong một thời gian dài là lực lượng thống trị AI của Thung lũng Silicon, đã bắt kịp tốc độ qua những nỗ lực thương mại hóa của riêng mình. Gã khổng lồ công nghệ đã phát hành một đối thủ cạnh tranh của ChatGPT có tên là Bard chỉ 68 ngày sau thông báo của Bing. Nhưng phát hành của Bard cũng là một câu chuyện cảnh báo về việc mở rộng quy mô quá nhanh: Thông báo ra mắt có nhiều lỗi và kết quả là cổ phiếu của Google sụt giảm. Và không phải Bard là công cụ AI duy nhất có vấn đề. Trong vòng đời ngắn ngủi của mình, ChatGPT đã cho công chúng thấy rằng nó dễ bị "ảo niệm" — những câu trả lời tự tin đúng nhưng lại sai. khuynh hướng cùng tính không chính xác lại xảy ra phổ biến.
==============
Viện Alan Turing là viện quốc gia về khoa học dữ liệu và trí tuệ nhân tạo AI của Vương quốc Anh UK. Viện được thành lập vào năm 2015 và được chính phủ Anh tài trợ to lớn. Nó được đặt theo tên của Alan Turing sinh năm 1912 mất 1954 (hình) nhà toán học người Anh và người tiên phong về máy tính
=====================
Wooldridge tại Viện Alan Turing cho rằng tin giả cũng là vấn đề nguy hiểm khi chúng ta chứng kiến TIN GIẢ SẼ ĐƯỢC ‘CÔNG NGHIỆP HÓA" thực sự dưới bàn tay của TRÍ TUỆ NHÂN TẠO." Ông Wooldridge còn nói: “công nghệ hóa tin giả sẽ lấp đầy thế giới chúng ta bằng sự giả dối mà không ai nhận thấy. Điều đó làm cho con người không thể nào phân biệt cho ra sự thật từ những hư cấu của AI tạo ra…”
Yacine Jernite, một khoa học gia nghiên cứu tại công ty AI Hugging Face, nhận thấy có nhiều lý do để lo ngại về việc các chatbot AI được sử dụng để lừa đảo tài chính. Ông ta nói: "Khi kẻ cần lừa tiền ai đó thì họ lo xây dựng mối quan hệ thân thiết với họ. Nạn nhân sẽ cần thứ gì đó có thể trò chuyện và càng lúc càng cảm thấy gắn bó". Đó không chỉ hệ quả của việc bạn đã lạm dụng chatbot - mà là chính chatbot muốn thế và là thứ mà chatbot đang cố gắng hoàn thiện cho tinh vi hơn ."
Giám đốc AN Ninh Mạng Khlaaf, còn nhìn ra một rủi ro phổ biến hơn đó là sự PHÁ HỦY TOÀN BỘ TÍNH TOÀN VẸN CỦA KHOA HỌC, SỰ PHÓNG ĐẠI QUÁ MỨC gây HẠI LỚN CHO CỘNG ĐỒNG NHÂN LOẠI.
Đó là khi chúng ta chưa kể đến lúc ứng dụng AI vào các lĩnh vực có tính quan trọng về an toàn như y học và vận tải. Các chuyên gia nhấn mạnh rằng sự trọn vẹn của AI vẫn còn QUÁ XA tương phản với sự phát triển quá nhanh chóng của nó. Bản thân OpenAI đang di chuyển với tốc độ để phát hành các phiên bản mới của mô hình của nó. GPT-4, phiên bản nâng cấp của ChatGPT, sắp ra mắt. Nhưng sức mạnh đột phá của AI và những mối nguy hiểm do nó gây ra quá rõ ràng. Vậy mà đối với các ông chủ công ty chỉ suy nghĩ đó là cách tiếp cận và sự tha thứ sẽ tính sau.
Sai lầm lớn nhất của Zuckerberg là cho phép đạo đức đóng vai trò thứ hai, đứng sau lợi nhuận. Việc Facebook thành lập một ban giám sát là dấu hiệu cho thấy công ty đã sẵn sàng chịu trách nhiệm về mặt đạo đức mặc dù nhiều người cho rằng còn quá ít, quá trễ tràng để tiêu diệt được những con ma do nền tảng này tung ra. Nhưng chính lúc này, Altman phải đối mặt với tình thế tiến thoái lưỡng nan tương tự, bỏ thì thương (lợi nhuận) vương thì tội (đạo đức)
Altman nhận thức được những tác hại tiềm tàng của AI. Anh tweet ra rằng "Nếu bạn nghĩ rằng bạn hiểu tác động của AI, thì sự thực bạn không hiểu hết và vẫn chưa được hướng dẫn thêm. Nếu bạn biết rằng bạn không hiểu, thì chính là lúc bạn thực sự hiểu Lời trần tình trên tweeter của Altman đang toát ra chuyện gì? Anh muốn nói toạc ra rằng- các nhà nghiên cứu hiện đang có quá ít thông tin chi tiết về dữ liệu đã được đưa vào máy của OpenAI.
Wang tại đại học Colombia cho rằng Altman đang vật lộn với hậu quả mâu thuẫn đến từ AI - cho dù đó là vấn đề thuộc tính công bằng, chính xác hay minh bạch của nó. Theo Wang, việc tuân thủ một hệ thống đạo đức đảm bảo không gây hại cho cộng đồng trong khi phải cố gắng mở rộng quy mô lớn tiếp theo trong lĩnh vực công nghệ là "gần như không thể".
Tốc độ gần như đóng băng khi các cơ quan quản lý quyết định hành động chống lại. Điều đó có nghĩa Altman sẽ không chọn để mở chiếc hộp Pandora của AI (mở ra sẽ chuốc lấy rắc rối và phiền toái). Phương tiện truyền thông đã khuếch đại các vấn đề xã hội, như Wooldridge từng nói. Nhưng AI rất có thể tạo ra những cái mới. Altman cần phải làm đúng hay có thiện tâm hơn vì lợi ích của công chúng. Nếu không, thì quả là thảm nạn cho tất cả con người...
Hasan Chowdhury
LƯỢC DỊCH BY ĐHL 14/3/2023 SAN JOSE USA
nguồn
No comments:
Post a Comment