SYCL
ความหมาย
หัวข้อที่มีชื่อว่า “ความหมาย”มาตรฐานเปิดสำหรับเขียนโปรแกรมคำนวณบนอุปกรณ์หลายชนิด (CPU, GPU) ด้วยโค้ด C++ ชุดเดียว ฝั่ง Intel ใช้เป็นเส้นทางหลักสำหรับ GPU ผ่าน oneAPI
SYCL เป็นพื้นฐานของ backend ที่ llama.cpp ใช้กับ GPU Intel (เช่น Arc) โดยพึ่งชุดเครื่องมือ oneAPI ของ Intel ตอนติดตั้งหรือ build จึงต้องมี oneAPI และไดรเวอร์ Intel ให้พร้อม
สำหรับ GPU Intel อีกทางเลือกหนึ่งคือ Vulkan ที่ตั้งค่าง่ายกว่า ส่วน OpenVINO เป็นชุดเครื่องมือของ Intel อีกตัวที่ออกแบบมาสำหรับรัน inference บนฮาร์ดแวร์ Intel โดยเฉพาะ