Detta är ett känt problem. SMO:s användning mot .Net 4.0 har inte undertecknats eller meddelats av microsoft.
Det finns ett alternativ som inte stöds för att få detta att fungera (lägg till detta i din app.config):
<?xml version="1.0" encoding="utf-8" ?>
<configuration>
<startup useLegacyV2RuntimeActivationPolicy="true">
<supportedRuntime version="v4.0"/>
</startup>
</configuration>