Vielen Dank für die Klärung. Es hilft zwar im Ergebnis erst mal nicht weiter, aber ich weiß zumindest, dass es kein individuelles Problem ist...
Beste Grüße.

 
Ich habe eine Lösung gefunden - und die scheint auch tragfähig zu sein.

Wenn ich alles richtig verstanden habe, dann kann Windows XP (32bit) max. 4GM RAM verarbeiten. Wie ja auch schon gesagt wurde.

Windows reserviert wohl grundsätzlich die Hälfte des RAM für das System und die andere Hälfte steht Anwendungen zur Verfügung (abzügl. 500MB für PCI, um die 4GB überhaupt zu installieren... also bleiben 3.5GB RAM).

Es gibt aber einen sog. "3GB/switch". Dabei wird Windows mitgeteilt, dass es Anwendungen 3GB zur Verfügung stellen soll (weniger als 1GB kann man dem System nicht überlassen).
Ich habe jetzt nicht genau nachvollziehen können, ob dazu SP2 notwendig ist und die sog. "Datenausführungsverhinderung" (die, wenn vorhanden, scheinbar so eingestellt sein sollte: "... nur für erforderliche Windows-Programme und -Dienste aktivieren").

Für diesen "3GB/switch" editiert man die Boot.ini und trägt dort die 3GB einfach ein. Die letzte Zeile in der Boot.ini sieht dann so aus:
multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional" /fastdetect /3GB /...

Photoshop erkennt jetzt 2642GB verfügbaren RAM. Stelle ich PS nun z.B. 1224GB RAM zur Verfügung (935MB würde auch reichen), dann funktioniert mein Plugin ganz wunderbar!

:-)

beste Grüße.

Tip kommt spät - aus dem Maclager und ob er hilft weiss ich auch nicht.
Filter immer nur auf einen Kanal anwenden - dann braucht PS auch nur 1/3 des Speichers
Gruß Stefan