¿Qué significa pgd?

PGD significa Descenso de gradiente proyectado, que es un algoritmo comúnmente utilizado para resolver problemas de optimización convexa. También es uno de los algoritmos de optimización más utilizados en aprendizaje automático y aprendizaje profundo.

La idea básica del algoritmo PGD es realizar un descenso de gradiente en la función objetivo en cada iteración y proyectar los resultados nuevamente en un conjunto dado de restricciones. Este método se utiliza a menudo para resolver problemas de optimización con restricciones lineales o no lineales, como máquinas de vectores de soporte, programación lineal, etc. La ventaja del algoritmo PGD es que tiene alta precisión y confiabilidad cuando se trata de problemas restringidos, y también tiene las características de rápida convergencia y fácil implementación. ?

La extensión del algoritmo PGD incluye varias formas de PGD, como PGD estocástico, PGD acelerado, descenso de gradiente estocástico proyectado, etc. Además, el algoritmo PGD también se usa ampliamente en la generación de muestras adversas, la compresión de modelos, la optimización de hiperparámetros y otros campos del aprendizaje profundo, y se ha convertido en uno de los componentes importantes de los algoritmos de optimización del aprendizaje profundo.