云原生大数据计算服务MaxCompute:2024年
本文为您介绍MaxCompute2024年产品公告,基于此您可以了解MaxCompute中增加了哪些新功能、语法新特性和权限变更等信息,以提升项目开发效率。
数据通道读写性能和流量控制
流式数据通道(StreamingTunnel)的单并发(Slot)写入限速阈值从1MB/s提升到10MB/s,单Slot写入请求数限制从每秒10个提升到每秒100个。批量数据通道(BatchTunnel)的单并发(Slot)写入限速阈值控制到10MB/s。
跨Region流量治理
感谢您的配合!
尊敬的MaxCompute用户:
ODPS-0110061:Failedtorunddltask-OperationDELETEexpecttargetpartitionexist,butobjectnotfound.
ODPS-0422141:Partitionnotfound-Partition'projectName.tableName(pt=xxx)'doesnotexist.
若遇到该情况,您可在Session级别设置SETodps.optimizer.cbo.rule.filter.black=re;参数关闭该优化,之后即可正常执行UPDATE/DELETE/MERGEINTO操作。
此功能开放后,可以优化以下业务情形:
同一个账号内,不同业务包年包月计算资源需要强隔离。
同一个账号内,不同业务账务需要拆分。原来使用MaxCompute的包年包月计算资源,无法通过二级Quota分账,开放该功能后可通过购买多个一级Quota直接按订单分账。
为确保安全性,MaxCompute将于2024年10月08日(周二)对控制台部分功能增加RAM权限管控,阿里云账号(主账号)默认拥有控制台所有功能的访问或操作权限,RAM用户需要添加对应功能的权限点方可访问,本次增加权限管控的功能及对应的RAM权限点如下:
模块
功能
权限点Action
工作区>Notebook
Notebook
odps:CreateNotebookTemplate
odps:ListNotebookTemplates
odps:GetNotebookTemplate
odps:UpdateNotebookTemplate
odps:DeleteNotebookTemplate
odps:CreateNotebookStorage
odps:ListNotebookStorage
odps:CreateNotebookInstance
odps:ListNotebookInstances
odps:GetNotebookInstance
odps:StartNotebookInstance
odps:StopNotebookInstance
odps:UpdateNotebookInstance
odps:DeleteNotebookInstance
租户管理>外部数据源
odps:ListTenantObjectBindings
odps:UpdateTenantObjectBindings
数据传输>迁移服务(MMA)
迁移服务(MMA)
odps:ListMmsDataSources
odps:GetMmsDataSource
odps:CreateMmsDataSource
odps:UpdateMmsDataSource
odps:DeleteMmsDataSource
odps:CreateMmsFetchMetadataJob
odps:ListMmsJobs
odps:GetMmsJob
odps:CreateMmsJob
odps:DeleteMmsJob
odps:StartMmsJob
odps:StopMmsJob
odps:RetryMmsJob
odps:ListMmsTasks
odps:GetMmsTask
odps:ListMmsTaskLogs
odps:GetMmsAsyncTask
odps:UpdateMmsAsyncTask
odps:DeleteMmsAsyncTask
odps:ListMmsDbs
odps:GetMmsDb
odps:ListMmsTables
odps:GetMmsTable
odps:ListMmsPartitions
odps:GetMmsPartition
odps:ListMmsAgents
odps:CreateMmsAuthFile
注册完成后,您可通过以下两种方式开始体验新功能:
在MaxCompute控制台新建项目时,选择项目类型为云栖新功能邀测项目。
在DataWorks数据开发(DataStudio)(新版)公测版本中绑定MaxCompute计算资源时,新增内部项目时选择项目类型为云栖新功能邀测项目。
邀测功能仅在标注为云栖邀测版的新建项目中提供试用,由于功能还在迭代完善中,邀测期间无法保证邀测版项目和功能达到支持生产的能力,因此请您避免基于云栖邀测版项目和功能执行重要数据和业务。
邀测结束后,云栖新功能邀测项目将自动转为普通生产项目,项目中的数据和配置信息不会丢失。MaxCompute会根据邀测结果,完善和迭代邀测功能,但不保证所有邀测功能自动合入普通项目。
届时您通过MaxCompute控制台的配额(Quota)管理页面进行包年包月计算Quota配置时,会有如下变化:
原Quota模版更名为基础配置,能力如下:
通过编辑基础配置,可新增二级Quota,并可对二级Quota中的基础参数(包括是否独占、单作业CU上限、开启优先级、非预留CU、调度策略)进行编辑。同时还可以编辑预留CU量[minCU,maxCU]和弹性预留CU,但只作用于当前生效的Quota资源配置方案(原Quota计划),若您使用了分时伸缩能力,建议前往伸缩配置页签对预留CU量[minCU,maxCU]和弹性预留CU进行设置。
在基础配置页签的Quota列表中,可以删除二级Quota,与原Quota模板中的删除逻辑一致。
新增配置方案:即原来的添加计划,仅支持Quota的预留CU量[minCU,maxCU]和弹性预留CU参数的配置。
资源配置方案列表:原Quota计划列表,新增支持展开每个方案的详情以便更好地查看对比各方案的配置内容。
分时伸缩预览:新增功能,支持选择某个二级Quota以查看各个时段的CU分配趋势图。
伸缩配置全局视图:新增功能,支持全局视图以表格方式展示所有配置方案明细,可方便查看所有Quota的Min/MaxCU量和弹性预留CU在各个分时时段的设置。
为确保安全性,MaxCompute将于2024年09月10日(周二)对控制台部分功能增加RAM权限管控,阿里云账号(主账号)默认拥有控制台所有功能的访问或操作权限,RAM用户需要添加对应功能的权限点方可访问,本次增加权限管控的功能及对应的RAM权限点如下:
工作区>项目管理
odps:ListOutboundInternetAddress
odps:UpdateUsersToRole
工作区>配额(Quota)管理
odps:ListQuotaRoutingRules
odps:CreateQuotaRoutingRule
工作区>资源观测
odps:GetStorageSizeSummary
odps:GetStorageAmountSummary
odps:GetStorageSummaryCompared
odps:ListStorageProjectsInfo
odps:ListStorageTablesInfo
odps:ListStoragePartitionsInfo
odps:ListTopJobInfo
odps:GetTableAccessInfoTopK
odps:GetTableIpAccessInfoTopK
odps:GetTableAccessInfo
odps:ListTableSlotDetail
odps:GetTunnelThroughputSummary
工作区>作业运维
odps:ListJobSnapshotInfos
工作区>物化视图
odps:ListGlobalConfig
odps:GetGlobalConfig
odps:CloseGlobalConfig
odps:UpdateGlobalConfig
odps:AddMvRecommendationSupportProject
odps:ListMvRecommendationSupportProjects
odps:CheckMvRecommendationSupportProjects
odps:RemoveMvRecommendationSupportProject
odps:CreateMaterializedView
odps:GetMaterializedViewStatus
odps:ListMaterializedViews
odps:GetMaterializedView
odps:UpdateMaterializedView
odps:DeleteMaterializedView
odps:ListProjectMvRecommendations
odps:GetProjectMvRecommendation
odps:ListMvRecommendations
odps:ListMvRecommendationsByProject
odps:GetMvRecommendation
odps:GetMvRecommendationByProject
odps:ListMvRecommendationJobInfo
odps:ListMaterializedViewJobInfo
租户管理>网络连接
odps:ListNetworkLinks
odps:CreateNetworkLink
odps:GetNetworkLink
odps:RemoveNetworkLink
租户管理>镜像管理
odps:ListImages
odps:AddImage
odps:GetImage
odps:RemoveImage
MaxCompute资源观测新增存储资源和作业性能观测部分指标。
存储资源
作业性能观测新增指标
提供在所选过滤范围内消耗CPU时/内存时最多的前10个作业,共计/平均消耗CPU时/内存时最多的前10个Signature、ExtNodeId;
提供在所选过滤范围内总运行时长最长的前10个作业,共计/平均总运行时长最长的前10个Signature、ExtNodeld;
您可以通过上述指标快速定位资源用量较多、耗时较长的作业,并及时治理。通过对比单位CU时处理的作业扫描量,判断是否存在性能异常时段,结合作业运维功能定位引发原因,并及时治理。
下线OpenAPI清单及功能替代OpenAPI
下线OpenAPI版本及名称
功能替代OpenAPI版本:名称
版本
OpenAPI名称
2019-06-12
CreateProject
DeleteProject
暂不提供
GetProject
OpenMaxComputeService
2022-01-04
下线原因
MaxCompute2019-06-12版本提供的OpenAPI,由于已经更换功能提供方式,且经系统长期检测未发现外部客户调用,该版本OpenAPI将不再提供服务。
下线影响
下线后,代码中涉及到的OpenAPI调用将全部返回InvalidApi.NotFound或InvalidAction.NotFound错误码。
替代方案或执行建议
以上参数在作业运维列表默认隐藏,您可单击自定义列表选项设置显示。通过以上参数,您可以快速定位作业是否因等待资源耗时过长而导致整体运行较慢,进而结合作业分析判断具体由于资源供给不足或是存在多作业抢占资源导致,后续您可以依据具体业务情况优化作业执行情况、进行作业优先级调整或计算资源管理。
MaxFrame是由阿里云自研的分布式计算框架,支持Python编程接口,并能直接利用MaxCompute的计算资源和数据接口,使得Python开发者可以更加高效、便捷地进行大规模数据处理和AI模型开发。MaxFrame不仅完全兼容Pandas接口,且自动实现分布式处理,您能够以更熟悉、高效的方式利用MaxCompute海量计算资源及数据完成数据处理、可视化探索、科学计算及ML/AI开发工作。
MaxCompute计算成本优化功能在中国香港、新加坡、印度尼西亚(雅加达)、德国(法兰克福)地域发布。该功能可基于您的实际作业请求量和资源配置期望,对包年包月一级Quota类型的计算资源生成更优的资源配置方案,也支持查看当前使用按量付费计算资源的项目调整为使用包年包月计算资源的资源配置推荐方案及效果推演,帮助您进一步优化计算成本和提高资源利用效率。此次发布后,共有以下十个地域提供该功能:华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华南1(深圳)、西南1(成都)、中国香港、新加坡、印度尼西亚(雅加达)、德国(法兰克福)。
具备阿里云账号:用户需持有有效的阿里云账号,并已完成实名认证。
用户为作业归属MaxCompute项目的成员(可由项目管理员将其添加至项目中)。
因此,您需要特别注意,当DataWorks工作空间配置的MaxCompute引擎访问身份与用户身份不一致时,可能会由于用户本身未加入作业所归属的MaxCompute项目而导致无法访问自身提交的作业Logview。例如:DataWorks工作空间为标准模式,用户在开发环境提交作业至生产环境,若用户本身未加入生产环境的MaxCompute项目,则无法访问自己提交但归属于生产环境项目的作业Logview。
为避免上述情形,请您确保以下两点:
所有需要访问Logview的团队成员均已注册阿里云账号并完成实名认证。
在升级过程中或升级后,遇到任何Logview访问、权限配置等问题或需要技术支持协助,欢迎您通过您的专属钉群或MaxCompute开发者社区群(钉钉群号:11782920)联系我们。感谢您的配合!
预计升级过程不会影响您的作业运行,但在极小概率下,若影响了作业并导致执行失败,请尝试重新执行。
MaxCompute包年包月商品的预付款资源新折扣于2024年4月7日10点(UTC+8)生效,包括标准计算资源、数据传输服务等包年包月资源规格。新折扣如下:
一次交易购买时长为1年可享8.5折优惠;2年可享7折优惠;3年可享5折优惠。
MaxCompute支持通过操作审计创建跟踪,将操作事件迁移入仓。