问题的根源可能是在ASP.NET MVC Core或SignalR Core的连接握手过程中出现了意外错误。下面是一些可能的解决方法。

1. 检查服务器端代码：首先，确保服务器端的代码正确配置和实现。检查Startup.cs文件中的ConfigureServices方法和Configure方法，确保已正确配置SignalR服务和中间件。确保使用了正确的依赖注入和路由配置。

// ConfigureServices方法中添加SignalR服务
services.AddSignalR();

// Configure方法中启用SignalR中间件
app.UseSignalR(routes =>
{
    routes.MapHub("/chatHub");
});

2. 检查客户端代码：确保客户端代码正确连接到服务器端。检查客户端代码中的连接URL和方法调用是否正确。

// 客户端JavaScript代码
var connection = new signalR.HubConnectionBuilder()
    .withUrl("/chatHub")
    .build();

connection.start().then(function () {
    console.log("连接成功");
}).catch(function (err) {
    console.error(err.toString());
});

3. 检查网络连接和防火墙设置：确保网络连接正常，没有被防火墙或其他安全设置阻止。尝试禁用防火墙或添加必要的端口和协议规则。

4. 检查日志和错误信息：查看服务器端的日志和错误信息，以便了解具体的错误原因。根据错误信息采取相应的解决措施。

5. 更新ASP.NET MVC Core和SignalR Core版本：如果你正在使用旧版本的ASP.NET MVC Core或SignalR Core，尝试更新到最新版本。新版本通常修复了已知的问题和错误。

这些解决方法应该能够帮助你解决"服务器返回握手错误：在连接握手过程中发生了意外错误"的问题。如果问题仍然存在，请提供更多的详细信息和代码示例，以便我们能够更好地帮助你解决问题。