UL anuncia el lanzamiento de Procyon AI Text Generation Benchmark, un nuevo punto de referencia de IA basado en LLM para empresas interesadas en cuantificar el rendimiento y las capacidades locales de LLM.
Probar el rendimiento de AI LLM puede ser muy complicado y llevar mucho tiempo. También hay muchas variables, como la cuantificación, la conversión y las variaciones en los tokens de entrada, que pueden reducir la confiabilidad de una prueba si no se configuran correctamente.
Este nuevo benchmark es compatible con hardware de una amplia gama de proveedores, con compatibilidad con GPU discretas de AMD, Intel y NVIDIA con DirectML, e Intel con OpenVINO. Las pruebas con todos los modelos de IA compatibles (Phi-3.5-mini, Mistral-7B, Llama-3.1-8B y Llama-2-13B) le permiten medir el rendimiento en una amplia gama de casos de uso de LLM.
El Procyon AI Text Generation Benchmark ya está disponible para los propietarios de Procyon AI Benchmarks y complementa los AI Image Generation y AI Computer Vision Benchmarks. Con una gama cada vez mayor de benchmarks de IA locales, nos comprometemos a hacer de Procyon la primera opción para empresas, medios tecnológicos y proveedores para medir el rendimiento de IA local de las PC más recientes.
