이거 가끔 XAP 파일 빌드할 때 나는데(특히 컴퓨터 버벅일 때), 나같은 경우에는 다시 빌드하면 해결되곤 했다.
vs2010에서 디자이너 보기 한번 하고나면 메모리를 엄청 쓰면서 버벅거리기 시작하는데, 그럴때 종종 나타나는 현상.
http://social.msdn.microsoft.com/Forums/silverlight/en-US/56e58b6e-8034-4c90-83ce-f6e0136ca1d2/error-xap-packaging-failed-exception-of-type-systemoutofmemoryexception-was-thrown-why