2024年MaxCompute公告云原生大数据计算服务MaxCompute

云原生大数据计算服务MaxCompute:2024年

本文为您介绍MaxCompute2024年产品公告,基于此您可以了解MaxCompute中增加了哪些新功能、语法新特性和权限变更等信息,以提升项目开发效率。

数据通道读写性能和流量控制

流式数据通道(StreamingTunnel)的单并发(Slot)写入限速阈值从1MB/s提升到10MB/s,单Slot写入请求数限制从每秒10个提升到每秒100个。批量数据通道(BatchTunnel)的单并发(Slot)写入限速阈值控制到10MB/s。

跨Region流量治理

感谢您的配合!

尊敬的MaxCompute用户:

ODPS-0110061:Failedtorunddltask-OperationDELETEexpecttargetpartitionexist,butobjectnotfound.

ODPS-0422141:Partitionnotfound-Partition'projectName.tableName(pt=xxx)'doesnotexist.

若遇到该情况,您可在Session级别设置SETodps.optimizer.cbo.rule.filter.black=re;参数关闭该优化,之后即可正常执行UPDATE/DELETE/MERGEINTO操作。

此功能开放后,可以优化以下业务情形:

同一个账号内,不同业务包年包月计算资源需要强隔离。

同一个账号内,不同业务账务需要拆分。原来使用MaxCompute的包年包月计算资源,无法通过二级Quota分账,开放该功能后可通过购买多个一级Quota直接按订单分账。

为确保安全性,MaxCompute将于2024年10月08日(周二)对控制台部分功能增加RAM权限管控,阿里云账号(主账号)默认拥有控制台所有功能的访问或操作权限,RAM用户需要添加对应功能的权限点方可访问,本次增加权限管控的功能及对应的RAM权限点如下:

模块

功能

权限点Action

工作区>Notebook

Notebook

odps:CreateNotebookTemplate

odps:ListNotebookTemplates

odps:GetNotebookTemplate

odps:UpdateNotebookTemplate

odps:DeleteNotebookTemplate

odps:CreateNotebookStorage

odps:ListNotebookStorage

odps:CreateNotebookInstance

odps:ListNotebookInstances

odps:GetNotebookInstance

odps:StartNotebookInstance

odps:StopNotebookInstance

odps:UpdateNotebookInstance

odps:DeleteNotebookInstance

租户管理>外部数据源

odps:ListTenantObjectBindings

odps:UpdateTenantObjectBindings

数据传输>迁移服务(MMA)

迁移服务(MMA)

odps:ListMmsDataSources

odps:GetMmsDataSource

odps:CreateMmsDataSource

odps:UpdateMmsDataSource

odps:DeleteMmsDataSource

odps:CreateMmsFetchMetadataJob

odps:ListMmsJobs

odps:GetMmsJob

odps:CreateMmsJob

odps:DeleteMmsJob

odps:StartMmsJob

odps:StopMmsJob

odps:RetryMmsJob

odps:ListMmsTasks

odps:GetMmsTask

odps:ListMmsTaskLogs

odps:GetMmsAsyncTask

odps:UpdateMmsAsyncTask

odps:DeleteMmsAsyncTask

odps:ListMmsDbs

odps:GetMmsDb

odps:ListMmsTables

odps:GetMmsTable

odps:ListMmsPartitions

odps:GetMmsPartition

odps:ListMmsAgents

odps:CreateMmsAuthFile

注册完成后,您可通过以下两种方式开始体验新功能:

在MaxCompute控制台新建项目时,选择项目类型为云栖新功能邀测项目。

在DataWorks数据开发(DataStudio)(新版)公测版本中绑定MaxCompute计算资源时,新增内部项目时选择项目类型为云栖新功能邀测项目。

邀测功能仅在标注为云栖邀测版的新建项目中提供试用,由于功能还在迭代完善中,邀测期间无法保证邀测版项目和功能达到支持生产的能力,因此请您避免基于云栖邀测版项目和功能执行重要数据和业务。

邀测结束后,云栖新功能邀测项目将自动转为普通生产项目,项目中的数据和配置信息不会丢失。MaxCompute会根据邀测结果,完善和迭代邀测功能,但不保证所有邀测功能自动合入普通项目。

届时您通过MaxCompute控制台的配额(Quota)管理页面进行包年包月计算Quota配置时,会有如下变化:

原Quota模版更名为基础配置,能力如下:

通过编辑基础配置,可新增二级Quota,并可对二级Quota中的基础参数(包括是否独占、单作业CU上限、开启优先级、非预留CU、调度策略)进行编辑。同时还可以编辑预留CU量[minCU,maxCU]和弹性预留CU,但只作用于当前生效的Quota资源配置方案(原Quota计划),若您使用了分时伸缩能力,建议前往伸缩配置页签对预留CU量[minCU,maxCU]和弹性预留CU进行设置。

在基础配置页签的Quota列表中,可以删除二级Quota,与原Quota模板中的删除逻辑一致。

新增配置方案:即原来的添加计划,仅支持Quota的预留CU量[minCU,maxCU]和弹性预留CU参数的配置。

资源配置方案列表:原Quota计划列表,新增支持展开每个方案的详情以便更好地查看对比各方案的配置内容。

分时伸缩预览:新增功能,支持选择某个二级Quota以查看各个时段的CU分配趋势图。

伸缩配置全局视图:新增功能,支持全局视图以表格方式展示所有配置方案明细,可方便查看所有Quota的Min/MaxCU量和弹性预留CU在各个分时时段的设置。

为确保安全性,MaxCompute将于2024年09月10日(周二)对控制台部分功能增加RAM权限管控,阿里云账号(主账号)默认拥有控制台所有功能的访问或操作权限,RAM用户需要添加对应功能的权限点方可访问,本次增加权限管控的功能及对应的RAM权限点如下:

工作区>项目管理

odps:ListOutboundInternetAddress

odps:UpdateUsersToRole

工作区>配额(Quota)管理

odps:ListQuotaRoutingRules

odps:CreateQuotaRoutingRule

工作区>资源观测

odps:GetStorageSizeSummary

odps:GetStorageAmountSummary

odps:GetStorageSummaryCompared

odps:ListStorageProjectsInfo

odps:ListStorageTablesInfo

odps:ListStoragePartitionsInfo

odps:ListTopJobInfo

odps:GetTableAccessInfoTopK

odps:GetTableIpAccessInfoTopK

odps:GetTableAccessInfo

odps:ListTableSlotDetail

odps:GetTunnelThroughputSummary

工作区>作业运维

odps:ListJobSnapshotInfos

工作区>物化视图

odps:ListGlobalConfig

odps:GetGlobalConfig

odps:CloseGlobalConfig

odps:UpdateGlobalConfig

odps:AddMvRecommendationSupportProject

odps:ListMvRecommendationSupportProjects

odps:CheckMvRecommendationSupportProjects

odps:RemoveMvRecommendationSupportProject

odps:CreateMaterializedView

odps:GetMaterializedViewStatus

odps:ListMaterializedViews

odps:GetMaterializedView

odps:UpdateMaterializedView

odps:DeleteMaterializedView

odps:ListProjectMvRecommendations

odps:GetProjectMvRecommendation

odps:ListMvRecommendations

odps:ListMvRecommendationsByProject

odps:GetMvRecommendation

odps:GetMvRecommendationByProject

odps:ListMvRecommendationJobInfo

odps:ListMaterializedViewJobInfo

租户管理>网络连接

odps:ListNetworkLinks

odps:CreateNetworkLink

odps:GetNetworkLink

odps:RemoveNetworkLink

租户管理>镜像管理

odps:ListImages

odps:AddImage

odps:GetImage

odps:RemoveImage

MaxCompute资源观测新增存储资源和作业性能观测部分指标。

存储资源

作业性能观测新增指标

提供在所选过滤范围内消耗CPU时/内存时最多的前10个作业,共计/平均消耗CPU时/内存时最多的前10个Signature、ExtNodeId;

提供在所选过滤范围内总运行时长最长的前10个作业,共计/平均总运行时长最长的前10个Signature、ExtNodeld;

您可以通过上述指标快速定位资源用量较多、耗时较长的作业,并及时治理。通过对比单位CU时处理的作业扫描量,判断是否存在性能异常时段,结合作业运维功能定位引发原因,并及时治理。

下线OpenAPI清单及功能替代OpenAPI

下线OpenAPI版本及名称

功能替代OpenAPI版本:名称

版本

OpenAPI名称

2019-06-12

CreateProject

DeleteProject

暂不提供

GetProject

OpenMaxComputeService

2022-01-04

下线原因

MaxCompute2019-06-12版本提供的OpenAPI,由于已经更换功能提供方式,且经系统长期检测未发现外部客户调用,该版本OpenAPI将不再提供服务。

下线影响

下线后,代码中涉及到的OpenAPI调用将全部返回InvalidApi.NotFound或InvalidAction.NotFound错误码。

替代方案或执行建议

以上参数在作业运维列表默认隐藏,您可单击自定义列表选项设置显示。通过以上参数,您可以快速定位作业是否因等待资源耗时过长而导致整体运行较慢,进而结合作业分析判断具体由于资源供给不足或是存在多作业抢占资源导致,后续您可以依据具体业务情况优化作业执行情况、进行作业优先级调整或计算资源管理。

MaxFrame是由阿里云自研的分布式计算框架,支持Python编程接口,并能直接利用MaxCompute的计算资源和数据接口,使得Python开发者可以更加高效、便捷地进行大规模数据处理和AI模型开发。MaxFrame不仅完全兼容Pandas接口,且自动实现分布式处理,您能够以更熟悉、高效的方式利用MaxCompute海量计算资源及数据完成数据处理、可视化探索、科学计算及ML/AI开发工作。

MaxCompute计算成本优化功能在中国香港、新加坡、印度尼西亚(雅加达)、德国(法兰克福)地域发布。该功能可基于您的实际作业请求量和资源配置期望,对包年包月一级Quota类型的计算资源生成更优的资源配置方案,也支持查看当前使用按量付费计算资源的项目调整为使用包年包月计算资源的资源配置推荐方案及效果推演,帮助您进一步优化计算成本和提高资源利用效率。此次发布后,共有以下十个地域提供该功能:华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华南1(深圳)、西南1(成都)、中国香港、新加坡、印度尼西亚(雅加达)、德国(法兰克福)。

具备阿里云账号:用户需持有有效的阿里云账号,并已完成实名认证。

用户为作业归属MaxCompute项目的成员(可由项目管理员将其添加至项目中)。

因此,您需要特别注意,当DataWorks工作空间配置的MaxCompute引擎访问身份与用户身份不一致时,可能会由于用户本身未加入作业所归属的MaxCompute项目而导致无法访问自身提交的作业Logview。例如:DataWorks工作空间为标准模式,用户在开发环境提交作业至生产环境,若用户本身未加入生产环境的MaxCompute项目,则无法访问自己提交但归属于生产环境项目的作业Logview。

为避免上述情形,请您确保以下两点:

所有需要访问Logview的团队成员均已注册阿里云账号并完成实名认证。

在升级过程中或升级后,遇到任何Logview访问、权限配置等问题或需要技术支持协助,欢迎您通过您的专属钉群或MaxCompute开发者社区群(钉钉群号:11782920)联系我们。感谢您的配合!

预计升级过程不会影响您的作业运行,但在极小概率下,若影响了作业并导致执行失败,请尝试重新执行。

MaxCompute包年包月商品的预付款资源新折扣于2024年4月7日10点(UTC+8)生效,包括标准计算资源、数据传输服务等包年包月资源规格。新折扣如下:

一次交易购买时长为1年可享8.5折优惠;2年可享7折优惠;3年可享5折优惠。

MaxCompute支持通过操作审计创建跟踪,将操作事件迁移入仓。

THE END
1.深圳·2024模具展览会【深圳会展之窗_点展】欢迎您开启广东深圳模具展览会城市窗,汇集2024年深圳多场模具行业盛会,2024深圳展会热点,模具展览会众多知名品牌亮相,深圳模具展会 展示前沿产品与技术及创新解决方案,展会期间计划举办有关模具的精彩现场活动。深圳展会信息还在持续更新中,深圳http://shenzhen.expowindow.com/dz/9_55_2024.html
2.2024年广东展会信息2024-11-06 汕头 2024泰国商品 (汕头)交易会 综合、跨行业类 2024-11-06 广东图片新闻 古镇灯博会开展次日:奇兵到家以优质... 2024/10/24 2024中国(广州)跨境电商交易会... 2024/8/19 2024广州全球茶业交易博览会8月... 2024/8/18 2024第五届中国“创食展”暨大湾... ...https://m.onezh.com/city/gd.html
3.2024第十届深圳国际流体密封件及密封材料展览会2024年8月28推荐展商 斯凯孚中国 舍弗勒集团大中华区 德国UKS 德国COG 德国HUNGER 奥地利优泰科 意大利派福特集团 美国奥赛罗密封件有限公司 派克汉尼汾中国 日本阪上 sakagami(NOK) 唐山金湾特碳石墨有限公司 德国Busak+Shamban宝色霞板 瑞典特瑞堡集团 河北新尔特橡塑密封有限公司 ...http://www.mfjclexpo.com/
4.广东展会2024年4月排期表(135届广交会/深圳玩具展/佛山陶瓷展/...第36届国际玩具及教育产品(深圳)展览会、第15届国际童车及母婴童用品(深圳)展览会、2024国际授权及衍生品(深圳)展览会 展会时间:2024年4月8日 - 4月10日 主办/承办:广州力通法兰克福展览有限公司、法兰克福展览(香港)有限公司、广东省玩具协会 第28届深圳国际服装供应链博览会 ...http://www.090expo.com/m/exnews_6472.html
5.2024年8月深圳各类型招聘考试公告汇总(每日更新)深圳事业单位考试网为你分享:2024年8月深圳各类型招聘考试公告汇总(每日更新),更多关于深圳各类型招聘,深圳事业编招聘,深圳招教,深圳医疗单位招聘,深圳事业单位考试快讯的内容,请关注深圳华图微信公众号【szhuatu】与深圳事业单位考试频道。https://shenzhen.huatu.com/20240816/8006429.html
6.CHIC2023(秋季)上海服装展8月282023年04月06日 CHIC中国国际服装服饰博览会_|上海国际服装展,上海服装展,2024上海服装博览会 商贸洽谈、渠道拓展、资源整合、国际合作、市场检验、潮流发布、跨界合作、资本对接……作为亚洲久负盛名且极具规模和影响力的服装服饰专业品牌展览会,中国国际服装服饰博览会(CHIC)从1993年发展至今,正在发挥着它在中国服装...http://m.chic-expo.com/h-nd-407.html
1.2024年8月深圳展会排期表CWE 国际童装产业博览会 2024年08月12日-2024年08月14日 深圳会展中心(福田) ISUE国际校服·园服展 2024年08月12日-2024年08月14日 深圳会展中心(...IOTE2024第二十二届国际物联网展 2024年08月28日-2024年08月30日 深圳国际会展中心(宝安) ISRE2024第九届国际智慧零售博览会 2024年08月28日-2024年...https://zhaozhanwang.cn/view.php?id=9050
2.展览排期2024年2月 February 6 第21届深圳国际LED展暨国际元宇宙半导体显示博览会及音视频智慧集成展(深圳) 02月26日-02月28日 广州闻信展览服务有限公司 陈小姐 020-38106261 7 2024雨果跨境全球平台资源大会 02月28日-02月29日 雨果网(深圳)跨境电商有限公司 翁文溪 15960337835 2024年3月 March 8 2024粤港澳大...https://www.szcec.com/Schedule/index.html%23yue9
3.SNECE2025深圳国际新能源电池储能及充电桩技术展览会由香港贸发展览集团有限公司打造的“2025深圳国际新能源电池、储能及充电桩技术展览会”将于2025年08月26-28日在深圳国际会展中心(宝安新馆)隆重举 办,汇聚新能源电池、储能技术、充电桩及换电设施等新能源全产业链优秀品牌,全力打造全球新能源产业链一站式采购交流平台https://www.dcexpo.com.cn/
4.2024年8月28与精英携手共创无限商机,为行业用户提供解决方案,2024深圳國際3D打印技术展,我们在深圳恭候您!2024年8月28-30日中国深圳国际3D打印技术展会 “深圳国际增材制造展览会、深圳国际粉末冶金展览会、深圳国际先进陶瓷展览会、”将于2024年8月28至30日在深圳国际会展中心(宝安新馆)举办。集中展示专业的3D打印产品和技术,为...http://qiye.shuziyingxiao.net/item-9746523.html
5.2024年深圳物联网暨传感器智能设备展IOTE将于2024年08月28深圳物联网及传感器智能装备展(IOTE)将邀请国内外知名传感器企业及物联网应用厂商参展,搭建新技术、新产品、新解决方案供需交流合作平台,完整展示物联网产业链,为物联网产业提供创新解决方案。通过用户、渠道服务商、厂商三方协同,打造产业生态链。 展会时间:2024年08月28日-08月30日 ...https://www.shifair.com/informationDetails/256316.html
6....6月2628郑州励展汽车用品改装展8月282024-2025年展会一览表: 12月2-5上海法兰克福展 6月26-28郑州励展汽车用品改装展 8月28-30广州法兰克福国际汽配及后市https://www.yoojia.com/article/3815114356300513522.html
7.2024年8月中国(深圳)国际无人机展览会亚洲中国深圳202408展览面积:0㎡展商数量:0家观众数量:0人 标准展位:-元/平米 光摊展位:-元/平米 2024中国(深圳)国际无人机展览会 时间:2024年8月28-30日 地点:深圳国际会展中心 行业概况: 目前中国无人机制造业快速发展,无人机在军事侦察、地质测绘、气象减灾、电力巡查、个人消费等领域得到广泛应用,无人机全称“无人驾驶飞...https://www.zhanhuiquan.com/info/show/?id=52937
8.深圳玩具展2025年4月79日2025第37届国际玩具及潮玩(深圳)展览会于2025年4月7-9日在深圳国际会展中心(宝安区)与深圳童车婴童展、深圳授权展同期举行,欢迎参展、观展。https://www.chinatoyfair.com/
9.深圳国际3D打印增材制造及精密成型展览会沿袭德国法兰克福 Formnext 展会的成功,深圳国际3D打印、增材制造及精密成型展览会将于 2025 年 8 月 26至28 日举行。展出从前期生产到后期生产的整个增材制造流程链的产品和技术。除增材制造设备外,此次展会还汇集了原材料、后处理技术、检测设备、增材制造解决方案及服务等方面的企业。同时,展会还将全面覆盖整个...https://formnext-pm.hk.messefrankfurt.com/shenzhen/zh-cn.html
10.招聘信息2024年8月30日招聘信息汇总【招聘信息】2024年8月30日招聘信息汇总 1、小米 小米25届校招内推 【公司介绍】小米集团是一家以智能手机、?智能硬件和IoT平台为核心的互联网公司,?成立于2010年4月,?并于2018年7月9日在香港交易所主板挂牌上市。? 最新市值4209.20亿港元,作为全球领先的智能手机品牌之一,?小米的智能手机出货...http://eie.xjtu.edu.cn/info/1051/10016.htm
11.绩溪县2024年8月企业招聘信息要求:学历,专业、工作经验不限;能吃苦耐劳,具备一定的沟通技能,打字速度40字/分钟以上;思维灵活,责任心及服务意识强;抗压能力强,月休6天及以上,白晚班轮班,白班(8:30-17:30);晚班(15:00-24:00)。待遇:4000-7000元,转正后缴纳五险一金。2.储备干部:2名 ...https://www.cnjx.gov.cn/OpennessContent/show/3362139.html
12.数据中心展2024深圳数据中心产业展8月28日开展在行业迅猛发展的大背景下,由香港贸发展览集团有限公司精心策划匠心组织的“2024深圳国际数据中心产业展览会”简称:“DCE 2024”将于2024年08月28-30日在深圳国际会展中心(宝安新馆)隆重举办,汇聚数据中心基础设施、智能化运维产品与技术、储能与节能产品与技术、设计工程及系统集成、云计算、IDC 服务商、ICT 设备系统...http://m.e-book86.com/ExhShow.asp?cid=161065