La dichosa carpeta de Roslyn nos da mas de un quebradero de cabeza pero la verdad es que es muy facil compilar sin ella
Sigue estos sencillos pasos
1 En tu proyecto haz clic con el botón derecho del ratón en Administrar paquetes nuget

2 En la seccion de instalado selecciona Microsoft.CodeDom.Providers.DotNetCompilerPlatform

3 Pulsa Desinstalar El nuget se desinstalara y quitará las referencias.

y listo puedes publicar sin que se copie y cree la carpeta Roslyn …
Espero que te haya servido, Un saludo a tod@s
Gracias, me sirvio!