Theo The Information, chi phí vận hành ChatGPT có thể rơi vào khoảng 700.000 USD mỗi ngày và Microsoft đang muốn khắc phục điều này.
Chi phí đ&
agrave;o tạo v&
agrave; vận h&
agrave;nh ChatGPT vô c&u
grave;ng tốn kém. (Ảnh: Reuters)
Theo Dylan Patel, nh&
agrave; phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận h&
agrave;nh ChatGPT cao như vậy l&
agrave; v&i
grave; hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người d&u
grave;ng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận h&
agrave;nh chatbot.
Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí c&o
grave;n cao hơn do ước tính ban đầu của ông dựa trên mô h&i
grave;nh GPT-3 của OpenAI. Mô h&i
grave;nh mới nhất GPT-4 sẽ tốn kém hơn.
Nếu như đ&
agrave;o tạo mô h&i
grave;nh ngôn ngữ lớn (LLM) c
ủa ChatGPT đã tiêu tốn h&
agrave;ng chục triệu USD, chi phí vận h&
agrave;nh hay chi phí suy luận c&o
grave;n lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô h&i
grave;nh ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận h&
agrave;nh mô h&i
grave;nh c&u
grave;ng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD v&
agrave;o năm 2021. V&i
grave; vậy, anh đã chuyển sang nh&
agrave; cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận h&
agrave;nh mô h&i
grave;nh AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, v&
agrave;i năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip l&
agrave;: họ nhận ra bị tụt hậu so với Google v&
agrave; Amazon trong lĩnh vực chip; họ t&i
grave;m kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang l&
agrave;m dự án chip v&
agrave; có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
(Theo BI)
Khóa học sử dụng ChatGPT tại Việt Nam mọc lên như nấm sau mưa
Sau sự nổi lên c
ủa ChatGPT, lượng người có n
hu c??u học cách sử dụng phần mềm n&
agrave;y tăng vọt, kéo theo đó l&
agrave; ng&
agrave;y c&
agrave;ng nhiều các khóa học ăn theo với giá cả triệu đồng mỗi khóa.
ChatGPT v&
agrave; cuộc cách mạng hóa ng&
agrave;nh xuất bản
Trí tuệ nhân tạo (AI) đang thay thế con người với tư cách l&
agrave; lực lượng lao động trong nhiều lĩnh vực khác nhau, kể cả sáng tác v&
agrave; xuất bản.
Châu Âu th&
agrave;nh lập ‘đội đặc nhiệm’
về ChatGPT
Cơ quan bảo vệ dữ liệu châu Âu (EDPB) ng&
agrave;y 13/4 đã th&
agrave;nh lập đội đặc nhiệm chuyên trách
về ChatGPT.
Nguồn bài viết : Quay số
.jpg)
