在ASP.NET Core 3.0中，可以使用InProcess或OutOfProcess模式来托管应用程序。在使用InProcess模式时，应用程序直接运行在IIS Worker进程中，而OutOfProcess模式将应用程序作为单独的进程运行。

当在InProcess模式下运行应用程序时出现HTTP错误500.30 - ANCM进程内启动失败时，可以尝试以下解决方法：

1. 确保应用程序的目标框架与安装的.NET Core运行时版本匹配。可以通过在命令行中运行dotnet --info命令来检查当前安装的.NET Core版本。

2. 更新应用程序的目标框架版本。在项目文件.csproj中，将节点的值设置为与已安装的.NET Core版本匹配的版本。例如，如果已安装的.NET Core版本是3.0.0，则将节点的值设置为netcoreapp3.0。

3. 确保应用程序的依赖项已正确安装。可以使用dotnet restore命令来还原项目依赖项。

4. 检查应用程序的日志文件以获取更多详细信息。在应用程序的根目录中，可以找到一个名为"logs"的文件夹，其中包含详细的日志文件。检查这些日志文件以了解出现错误的具体原因。

如果以上解决方法无效，或者您希望将应用程序切换到OutOfProcess模式，您可以按照以下步骤操作：

1. 在项目文件.csproj中，将节点的值设置为OutOfProcess。例如：OutOfProcess。

2. 更新应用程序的目标框架版本，如上述步骤2所示。

3. 使用dotnet restore命令还原项目依赖项。

4. 重新发布应用程序。根据您使用的工具和环境，可以使用Visual Studio的发布功能、命令行工具（如dotnet publish）或CI/CD管道来重新发布应用程序。

5. 最后，确保在IIS中创建了正确的应用程序池，并将其设置为使用.NET Core的正确版本。