Para remover os ícones do desktop, os passos são os seguintes:

Aperte Alt+F2 e digite:

gconf-editor

Navegue pelo menu esquerdo em:

apps -> nautilus -> desktop

Do lado direito, desmarque os botões checkbox à sua escolha:

• Computer_icon;
• Home_icon;
• Network_icon;
• Trash_icon;
• Volumes.

Como na imagem: