L'anomalie vient du problème suivant: 

• Le bouton surligné sur l'image, dans la liste de droite, n’utilise pas du tout un modèle d’export dédié aux écritures comptables. C’est un bouton générique, présent sur de nombreuses fonctions, et servant à exporter sur Excel les tableaux affichés à l’écran avec une mise en page étudiée.
• Lorsque vous cliquez dessus, il charge donc dans l’écran tous les résultats ramenés par vos critères, donc dans la mémoire de la session utilisateur, ce qui occasionne le dépassement. De manière globale, ce bouton sert à générer de « jolis » fichiers contenant relativement peu de données.

Solution:

• Pour exporter un grand nombre d'enregistrements, la solution préconisée (et la seule réellement adaptée au problème) est de créer un modèle d’export dédié où d’en trouver un existant à l'emplacement suivant: Paramétrage > Exploitation > Modèles d'import / Export.
• Dans votre cas, je vous propose d'utiliser le modèle GAS qui permet d'exporter le contenu des tables GACCENTRY, GACCENTRYD et GACCENTRYA correspondant aux écritures comptables. 
• L’export devrait se dérouler plus rapidement et sans erreurs de dépassement de mémoire ; pour ne pas avoir de soucis liés à une micro-coupure de connexion, je vous conseille également de le faire tourner en batch.