要使用AWS Cognito和next-auth@5.0.0.beta进行自定义授权，可以按照以下步骤进行操作：

1. 首先，确保您已安装并配置了AWS Cognito和next-auth。您可以在项目中安装这两个库：

npm install aws-sdk next-auth@5.0.0-beta.6

2. 创建一个自定义的AWS Cognito身份验证提供程序。在您的pages/api/auth/[...nextauth].js文件中，添加以下代码：

import { CognitoIdentityProvider } from 'aws-sdk';
import NextAuth from 'next-auth';
import Providers from 'next-auth/providers';

export default NextAuth({
  providers: [
    Providers.Cognito({
      clientId: process.env.COGNITO_CLIENT_ID,
      clientSecret: process.env.COGNITO_CLIENT_SECRET,
      domain: process.env.COGNITO_DOMAIN,
      // 自定义授权函数
      authorize: async (credentials) => {
        // 在这里实现您的自定义授权逻辑
        // 根据credentials中的用户信息进行身份验证
        // 返回true表示授权成功，返回false表示授权失败
        // 例如：根据credentials.username和credentials.password验证用户
        const provider = new CognitoIdentityProvider();
        const params = {
          AuthFlow: 'USER_PASSWORD_AUTH',
          ClientId: process.env.COGNITO_CLIENT_ID,
          AuthParameters: {
            USERNAME: credentials.username,
            PASSWORD: credentials.password,
          },
        };
        try {
          await provider.initiateAuth(params).promise();
          return true;
        } catch (error) {
          console.error(error);
          return false;
        }
      },
    }),
  ],
});

在这个例子中，我们使用了AWS SDK的CognitoIdentityProvider类来进行身份验证。在authorize函数中，我们使用了initiateAuth方法来验证提供的用户名和密码。

3. 确保您已在环境变量中设置了必要的配置，如COGNITO_CLIENT_ID、COGNITO_CLIENT_SECRET和COGNITO_DOMAIN。您可以在.env.local文件中设置这些值。

4. 最后，您可以在您的应用中使用useSession钩子来获取用户会话信息。例如，在您的页面组件中添加以下代码：

import { useSession } from 'next-auth/client';

export default function MyPage() {
  const [session, loading] = useSession();

  if (loading) {
    return 
Loading...
;
  }

  if (!session) {
    return 
Not authenticated
;
  }

  return 
Hello, {session.user.name}
;
}

这样，您就可以使用AWS Cognito和next-auth进行自定义授权了。当用户登录时，他们将被重定向到AWS Cognito登录页面，并使用您提供的自定义授权逻辑进行身份验证。