Salesforce AI Research ประกาศผลงานการฝึกปัญญาประดิษฐ์ XGen-7B เป็นปัญญาประดิษฐ์แบบโอเพนซอร์สที่สามารถใช้งานได้อิสระ โดยชูจุดเด่นที่คุณภาพสูง
XGen-7B เทรนบนชิป TPU-v4 ของ Google Cloud ต้นทุนต่อการเทรนด้วยข้อมูล 1 ล้านล้านโทเค็นอยู่ที่ 150,000 ดอลลาร์
ตัวโมเดลเริ่มต้นด้วย XGen-7B-4K-base ฝึกสองรอบ รอบแรก 8 แสนล้านโทเค็น และอีกรอบ 4 แสนล้านโทเค็น โดยใช้ชุดข้อมูลเทรนขนาด 4,000 โทเค็น ซึ่งเหนือกว่าโมเดลโอเพนซอร์สอื่น ซึ่งมักเทรนด้วยข้อมูลชุดละ 2,000 โทเค็นเท่านั้น จากนั้นฝึกเพิ่มด้วยข้อมูลชุดละ 8,000 โทเค็น ไปอีก 3 แสนล้านโทเค็น ได้เป็น XGen-7B-8K-base ชุดสุดท้ายเป็นการจูนด้วยชุดคำถามตอบ โดยใช้คำถามที่ไม่ได้อนุญาตที่ใช้งานได้อิสระ โมเดลที่ได้เป็น XGen-7B Instruct...
คะแนนทดสอบหมวดต่างๆ ของ XGen-7B นั้นใกล้เคียงกับ Falcon-7B, MPT-7B แต่เมื่อทดสอบกับชุดทดสอบที่มีความยาว เช่น ชุดทดสอบการสรุปข้อมูลความยาวมากๆ คะแนนทดสอบก็สูงกว่าโมเดลคู่แข่งอย่างชัดเจน
ประเทศไทย ข่าวล่าสุด, ประเทศไทย หัวข้อข่าว
Similar News:คุณยังสามารถอ่านข่าวที่คล้ายกันนี้ซึ่งเรารวบรวมจากแหล่งข่าวอื่น ๆ ได้
“หุ้นบริษัท AI” ในจีนร่วง ดัชนี CSI AI ลดลง 3% หลังมีกระแสข่าวสหรัฐฯ จ่อจำกัดส่งออกชิป AI ไปจีนหุ้น AI ของจีนร่วงลง หลังมีข่าวว่าสหรัฐฯ กำลังวางแผนที่จะกำหนดการจำกัดการส่งออกชิป AI ไปยังจีน ส่งผลให้ดัชนี CSI AI ของจีนปรับตัวลดลง 3%
อ่านเพิ่มเติม »
Databricks เข้าซื้อ MosaicML ผู้สร้างปัญญาประดิษฐ์โอเพนซอร์ส MPT-7BDatabricks ผู้ให้บริการแพลตฟอร์มข้อมูล เข้าซื้อบริษัท MosaicML แพลตฟอร์มการเทรนและรันโมเดลปัญญาประดิษฐ์ ผู้สร้างโมเดลโอเพนซอร์ส MPT-7B และ M
อ่านเพิ่มเติม »
การพัฒนา AI ที่ก้าวกระโดด - iT24Hrsการพัฒนา AI ทุกวันนี้เป็นไปอย่างรวดเร็วมากๆ AI กำลังจข้ามาอยู่ในชีวิตเรามากขึ้นเรื่อยๆ งั้นเรามาดูกันว่า AI ในตอนนี้เป็นยังไงบ้าง
อ่านเพิ่มเติม »
Amazon ทดสอบใช้ Generative AI มาเขียนสรุปรีวิวสินค้าจากผู้ใช้งาน ไม่ต้องอ่านทีละรีวิวAmazon เริ่มขยับสู่วงการ AI สร้างเนื้อหาหรือ Generative AI แล้ว โดยบริษัทเริ่มทดสอบฟีเจอร์ใหม่ในแอป นำ AI มาเขียนสรุปรีวิวที่ผู้ใช้งานเขียนร
อ่านเพิ่มเติม »
จะเกิดอะไรขึ้น? เมื่อมนุษยชาติต้องต่อสู้กับ AI อนาคตประเทศไทยจะยังไงAI หรือปัญญาประดิษฐ์ได้เข้ามามีบทบาทในชีวิตประจำวันของคนเราแล้วในปัจจุบัน ไม่ว่าจะเป็นเทคโนโลยีต่างๆที่มี AI เข้ามาควบคุมและช่วยให้ง่ายขึ้น แต่หากในอนาคตมนุษยชาติต้องต่อสู้กับ AI จะเกิดอะไรขึ้น
อ่านเพิ่มเติม »