Bonjour,
Je pense que plus personne n'a besoin de conseil pour installer Windows 98 ;-)
( PS : Il va de soi, que pour installer un OS antérieur, il faut passer par un formatage, c'est pour cela que je vous ai indiqué de booter votre PC sur le CDROM de Windows 9x)
Pour solutionner votre problème, lisez et appliquez ce qui est indiqué sur ce site :
http://support.microsoft.com/kb/184447/fr
Votre message d'erreur, est du à l'inverse de ce qu'annonce ce vieux message, à savoir que vous aillez trop de mémoire sur cette machine (ou une carte graphique ayant trop de mémoire, c'est une histoire d'allocation de vCache : http://support.microsoft.com/kb/253912/fr )
Windows 98 et Windows XP sont des OS si différents, qu'il est même possible que Windows 98 ne soit pas compatible avec votre ordinateur, regardez ce quand dit le site du support de votre carte mère si cette solution ne fonctionne pas pour vous.