Le préprint du 9 octobre étudie l’« expressivité topologique des représentations », qui concerne la topologie de la sortie d’un réseau plutôt que celle des frontières de décision en classification. L’auteur démontre des bornes supérieures constructives pour des architectures ReLU capables de représenter des espaces tels que des sphères et des sommes de sphères. La première page indique que Kosio Beshkov est affilié au département de physique de l’Université d’Oslo, en Norvège.

L’article donne des bornes sur la largeur et les dimensions des couches pour des réseaux pouvant exprimer, par exemple, un espace homotopiquement équivalent à une sphère de dimension d ; il conjecture également une borne plus serrée pour un espace homéomorphe à une sphère. Il s’agit d’un résultat mathématique sur les représentations topologiques constructibles par une architecture, et non d’une preuve d’amélioration des performances sur des jeux de données précis. Le document est un préprint arXiv. Son cadre étend l’analyse de l’expressivité au-delà de la classification, notamment vers la régression et l’apprentissage de représentations.