Bajo la ola de seguridad de la IA, ¿qué tipo de servidores potentes se necesitan?
Con el aumento en el número de cámaras de vigilancia de alta definición y la creciente penetración de la IA, los datos de secuencias de imágenes y videos recopilados por las cámaras requieren motores de análisis más potentes para analizar, procesar y entrenar.
Tomemos como ejemplo las estaciones de metro de Beijing. Hay más de 654,38 millones de estaciones de metro en Beijing. Cada estación tiene cientos de cámaras. Es común que por cada estación de metro circulen entre 800 y 654,38 millones de personas cada día. . Se estima de manera conservadora que cada cámara detecta 654,38 00000 personas cada día, y luego suponiendo que hay 654,38 00000 objetivos en la base de datos de comparación (no muy grande para la base de datos de seguridad pública), ¡esta cámara tiene que responder 100,1 millones de preguntas cada día!
Obviamente, en varios proyectos de seguridad actuales, depender únicamente de DVR y NVR inteligentes integrados ya no puede cumplir con los estrictos requisitos informáticos.
Al enfrentarse a un mercado de seguridad de IA de nivel de billones, en la encrucijada de la tecnología, todos los ejecutivos de las empresas de seguridad se enfrentarán a una propuesta fundamental: ¿Qué tipo de servidores potentes se necesitan para la seguridad de la IA?
Cuando se trata de servidores seguros, X86 está en todas partes y siempre ha sido el favorito de muchas industrias, incluida la seguridad.
“Muchas plataformas de gestión actualmente en el mercado de la seguridad, como servidores de streaming de medios, servidores de reenvío, servidores de control principal, etc., se basan básicamente en la arquitectura X86. Su mayor ventaja es que es relativamente sencilla. para desarrollar y comenzar rápidamente. La mayoría de los ingenieros son mejores en investigación y desarrollo en la arquitectura X86."
El CEO de Huatai Jack, Fu Jianhui, dijo a Lei Feng.com. Teniendo en cuenta su buen rendimiento de costes, los servidores X86 siempre han sido nuestra primera opción de compra.
Por lo tanto, los servidores X86 han sido los preferidos por los principales proveedores de servidores del mundo durante muchos años.
Desafortunadamente, el servidor X86 con puntajes "a la altura del estándar" en varios temas ha encontrado algunos "problemas locales" frente a la ola de IA actual.
Fu Jianhui reveló que, a juzgar por el uso real de los usuarios de seguridad, actualmente existen tres problemas principales con la aplicación de servidores X86 en la industria de la seguridad:
Primero, la CPU no es responsable de muchas operaciones lógicas, por lo que es muy ineficiente en tareas múltiples. Frente a la información de video masiva, los servidores X86 tradicionales implementados en centros de datos con CPU como núcleo ya no pueden satisfacer las necesidades informáticas de la computación elástica paralela y los entornos cambiantes. También es difícil lograr un rendimiento sorprendente en el mercado de servidores empresariales de seguridad.
“En el pasado, los datos de vídeo solo necesitaban existir en segundo plano y se realizaba una pequeña cantidad de análisis, lo que significaba que la capacidad de almacenamiento era lo suficientemente grande hoy en día, muchos clientes esperan que podamos procesarlos; información de video masiva en tiempo real y retroalimentación de los resultados. Esto significa que el sistema necesita decodificar, estructurar el video, reconocer, buscar, etc. Al mismo tiempo, X86 obviamente no es suficiente”.
En En otras palabras, X86 se puede comparar con un teléfono básico en un teléfono móvil que necesita procesamiento de comunicación. En el mercado de la seguridad que integra la IA, se necesita un teléfono inteligente con un rendimiento más potente para satisfacer necesidades personalizadas como los juegos y el procesamiento de imágenes.
En segundo lugar, en el contexto de una potencia informática insuficiente en la industria, muchos fabricantes han creado una combinación de servidores X86 y varias tarjetas GPU. Esta solución "parcial" que simplemente resuelve la potencia informática ha aumentado considerablemente el número de unidades. servidores, consumo de energía y costo para el usuario.
Desde la perspectiva de la adopción de la industria, cuando se trata de proyectos de IA como el reconocimiento facial, la mayoría de los fabricantes utilizarán GPU como unidades de procesamiento estructuradas para datos verticales, especialmente en clústeres de servidores X86, que es la única opción.
Hasta cierto punto, la GPU resuelve algunos problemas de potencia informática insuficiente, pero también tiene dos defectos fatales.
En primer lugar, consume mucha energía y necesita depender del servidor de arquitectura X86 para funcionar, lo que no es adecuado para el desarrollo de una gama más amplia de soluciones de IA; en segundo lugar, el costo es alto. Por ejemplo, utilizando una solución GPU, el costo de convertir el reconocimiento facial unidireccional es de más de 10.000 yuanes. En comparación con otras soluciones que cuestan mil o incluso cien yuanes, no existe ninguna ventaja de costos. Estas dos deficiencias fatales también obligan a muchas empresas a buscar nuevas soluciones.
En tercer lugar, dado que X86 utiliza más sistemas Linux abiertos que sistemas AIX cerrados, es un poco menos estable y menos mantenible.
“El mercado futuro debe ser competencia en escala de datos y potencia informática”.
Zhang Qi del Departamento de Producto de Inspur Commercial Machinery Co., Ltd. dijo a Lei Feng.com. com cree que con la aparición de cada vez más aplicaciones nuevas, la potencia informática tradicional), los cuellos de botella de latencia y los cuellos de botella en las comunicaciones.
Así como una carretera con una velocidad diseñada de 30 yardas por hora no puede transportar vehículos con una velocidad promedio de 100 yardas por hora, puede causar congestión en la carretera o incluso parálisis en un corto período de tiempo.
Hoy en día, frente a los grandes escenarios informáticos e inteligentes, quien primero pueda resolver el problema de la potencia informática y reducir mejor el consumo de energía y los costos podrá liderar la ola de IA.
En opinión de Zhang Qi, los servidores de alto rendimiento basados en POWER9 pueden cumplir con los altos requisitos de inteligencia de la era de la seguridad de la IA.
Basado en la situación real de la seguridad de la IA, Inspur Commercial Machinery Co., Ltd. lanzó recientemente una solución de análisis inteligente de análisis visual de IA (UltraVision on Power) basada en el servidor POWER9 y equipada con el sistema de análisis inteligente de video UltraVision. .
La solución de análisis visual de IA puede considerarse como un cerebro de IA súper eficiente. La combinación de software y hardware puede completar los datos complejos requeridos por diversas industrias, incluida la seguridad, en tiempo real, de forma precisa e inteligente. y tratar con ahorro de energía.
La "dureza" se refleja en la arquitectura POWER9, que puede proporcionar potentes capacidades de procesamiento e informática de imágenes y vídeos. En comparación con otros procesadores, POWER9 admite protocolos de E/S de próxima generación como PCIe4.0 y NVlink2.0, que pueden mostrar un mejor rendimiento de las aplicaciones en IA y otras aplicaciones.
Específicamente, en comparación con X86, la cantidad de rutas de procesamiento de video de un solo nodo ha aumentado casi tres veces a 3,8 veces, lo que mejora la eficiencia del entrenamiento del modelo de IA del marco de aprendizaje profundo y acelera el rendimiento de la base de datos en 1,8 veces. y mejora las capacidades de IO casi 5 veces.
Además, al realizar tareas de codificación y decodificación, consulta y búsqueda de imágenes y vídeos, toda la máquina puede proporcionar una superpotencia informática de 56 TFlops en precisión simple y 28 TFlops en precisión doble. En comparación con los servidores X86, una sola GPU puede proporcionar 30 veces más potencia de inferencia que un servidor con CPU pura.
Vale la pena mencionar que la tecnología CAPI exclusiva de la solución puede reducir la latencia a 1/36, acelerar completamente el procesamiento de imágenes y reducir el consumo de energía hasta en un 30 %.
1,8 veces, 3,8 veces, 3 veces, 5 veces, 30 veces, cifras aparentemente pequeñas, son órdenes de magnitud enormes para la industria de la seguridad.
Los cambios en estas cifras pueden avanzar en las medidas de prevención y control posteriores a la intervención para diversos delitos e incidentes violentos graves antes o durante el incidente, reduciendo en gran medida la ocurrencia de incidentes de seguridad pública y logrando la transformación de la seguridad pública. de la defensa pasiva a la defensa activa.
Además de la superpotencia informática proporcionada por POWER9, a nivel de software, la solución también incluye tecnología de análisis inteligente de vídeo UltraVision de alto peso, como detección de objetivos (PD), reidentificación de peatones (RE -ID), etc. Varias tecnologías de visión por computadora mejoran la precisión del reconocimiento de objetivos hasta en un 94%.
No hay duda de que las soluciones de análisis visual de IA que combinan software y hardware pueden ayudar a los usuarios a resolver los problemas de alta potencia informática y bajo consumo de energía en la era de la IA durante el proceso de implementación real.
Además, en comparación con otras soluciones populares, esta solución tiene dos grandes ventajas que hay que mencionar.
En primer lugar, la capacidad única de aprovechar los recursos heredados puede reducir los costos para los clientes.
Por lo general, si un sistema de vídeo con IA general quiere implementar determinadas funciones, debe estar conectado a una cámara de percepción con tecnología de IA. Durante el proceso de implementación, esta solución no necesita reemplazar la cámara original y solo necesita omitir el terminal de recolección de video para implementar el sistema de inteligencia artificial.
Además, esta solución es compatible con cámaras de diferentes marcas y estándares; se puede implementar directamente sin cambiar la arquitectura de hardware del servidor original del cliente, lo que reduce efectivamente los costos de implementación del cliente.
En segundo lugar, la propia Inspur Commercial Machinery Company, basándose en su posición de liderazgo en el campo de servidores, tiene fuertes capacidades de personalización, lo que acorta el ciclo de entrega de meses a días.
Ya sea que se trate de aplicaciones de inteligencia artificial, como el procesamiento de big data y el aprendizaje automático, o de aplicaciones de código abierto, como el almacenamiento definido por software y las bases de datos en memoria, esta solución funcionará bien.
No hay duda de que las soluciones de análisis visual de inteligencia artificial diseñadas para aplicaciones emergentes como la inteligencia artificial, la computación en la nube y el big data brindan a los clientes soluciones más diversificadas cuando enfrentan desafíos comerciales severos.
Al confiar en este producto de alto rendimiento, los usuarios pueden implementar varias aplicaciones inteligentes más rápido y acortar el ciclo de iteración tecnológica de las aplicaciones seguras de IA.
Al mismo tiempo, la aplicación de los servidores comerciales Inspur con excelente rendimiento no se limita a la industria de la seguridad, sino que también se puede utilizar en campos con altos requisitos de seguridad, como Internet y las finanzas.
Además de la seguridad, toda la sociedad se está transformando y actualizando hacia la escala, la automatización y la inteligencia. Entre ellas, la dirección de aplicaciones inteligentes cubre las cuatro direcciones principales: front-end, nube, plataforma e industria.
En este proceso de actualización, la nueva plataforma necesita nuevas capacidades para lograr una nueva cognición, y la nueva cognición da lugar a nuevas necesidades y aplicaciones.
Para las empresas de tecnología, incluida Inspur, esta es una gran oportunidad y un gran desafío. El camino es largo y lejano, por eso debemos buscar arriba y abajo. Red Lei Feng Red Lei Feng Red Lei Feng